稀疏表達的意義在於?為什麼稀疏表達得到廣泛的應用?

時間 2021-06-04 16:51:55

1樓:

其實,稀疏表達的根本意義在於,稀疏性,或者說低複雜度,是物理世界的普遍特徵。愛因斯坦曾經提出過著名的疑問,為什麼我們的世界是可理解的?原因其實就在於我們的物理世界本質是低複雜度的,可以被有效的建模表述。

學過量子力學的人都知道,一般的量子系統狀態是高複雜度的,而實際上我們考慮的只是量子系統的狀態空間的乙個低複雜度的子空間,物理人將其稱作,the corner of physical states。我們的物理世界就是這樣,而稀疏性就是這個低複雜度的表現,稀疏表達更加體現系統的核心特質,也是系統結構的更優化的表示, 稀疏性假設就是直接引入了低複雜度這個先驗對我們可能的模型進行了加權篩選。

擴充套件一點,其實深度網路深度學習之所以有效,本質上也同樣是引入了稀疏性先驗,深度網路本質上就是個低複雜度的稀疏模型。只不過,與傳統的稀疏表示相比,深度網路採用了更進一步的構造性的約束(用深度網路這個結構去encode稀疏性),深度網路,gaphical model, 稀疏表示等等其實都是一條線上的螞蚱。

2樓:MarkII

補充一下

2004那幾篇文章之前的基礎性工作是Chen和Donoho在2023年的technical report

後來發在SIAM上

2004那幾篇文章尤其是Tao Candes 和Romberg工作的重要意義在於嚴格的數學證明,

事實上2023年那篇文章開始已經有一些小組在解決這裡的數學問題Chen後來跑到文藝復興去了

3樓:王贇 Maigo

我覺得稀疏表達有兩點好處:

1) 省空間;

2) 奧卡姆剃刀說:如果兩個模型的解釋力相同,選擇較簡潔的那個。稀疏表達就符合這一點。

頭髮比較稀疏的女生適合什麼樣的髮型?

大嘴的皮皮 頭髮比較稀疏的女生比較適合捲髮,因為捲髮會讓頭髮蓬鬆起來,顯得頭髮多!首先大波浪就很好看,既慵懶又溫柔,其次復古羊毛卷,非常顯臉小,還顯頭髮多,很好看 還有蛋捲頭也很好看,這款髮型非常顯年輕,會讓人看起來很有活力。 卑微的小強 頭髮比較稀疏的女生最適合羊毛卷了。這款造型非常的時髦,而且燙...

學習的意義在於什麼?

剪輯奇哥 學習作為一種獲取知識交流情感的方式,已經成為人們日常生活中不可缺少的一項重要的內容,尤其是在二十一世紀這個知識經濟時代,自主學習已是人們不斷滿足自身需要 充實原有知識結構,獲取有價值資訊,並最終取得成功的法寶。學習是在不斷的公升公升級,我們的乙個認知的系統,幫助我們成為更好的我自己。那為什...

朋友的意義在於什麼?

遲早早 讓你覺得人間值得失戀的時候有人哭訴,有人和你有一樣的三觀,聊的來吃的到一起去。更像這個世界上另乙個不同的我。我們互相鼓勵好好活著。 chou哈哈 今天跟相識十來年的朋友一起吃火鍋,吃著吃著,乙個朋友忽然問,二十年後的我們會是怎樣?我說二十年後我們會帶著孩子再一起吃火鍋。於是話題轉移到將來要幾...