深度學習是否用到數學理論?

時間 2021-06-01 20:21:12

1樓:劉杳

除了基礎的微積分、線性代數,最近又有微分方程、最優控制(optimal control)、變分法介入進來(不過還沒聽說有什麼影響)

簡單的講,卷積網路(CNN)可以模擬一種偏微分方程(一階時間導數,像熱方程):input layer=初始條件,feed forward=解方程,depth=時間變數,weights=空間導數的係數。訓練網路就是在調係數。

但傳統的卷積網路中的係數只是常數(除了會隨時間變);如果允許變數係數(不用複雜的,一次多項式即可),就可以學到影象的旋轉和縮放了。

偏微分方程中有well-posed概念,其中一條是解對初始條件的依賴是連續的。轉換成神經網路就是output對input是連續的:小的input變化只能導致小的output變化。

(當然實際情況是否魯棒也不好說。)更進一步可以分析方程的穩定性來解釋擴充套件性。

供參考 :https://

為了自學理論物理,那我該怎麼學習數學?

櫻吹雪 看你想學來幹啥 學著玩 微積分,有乙個近代數學基本的極限概念,不至於跑太偏,科普水平的讀物基本可以隨便讀了 學來應付高中競賽 微積分和線性代數基本夠你四大力學入個門,硬要說的話一點點群論和復變函式也許能幫到你衝擊難題 拿第二學位 找個高校的物理專業培養計畫來照著學,一般來說高等數學 復變實變...

模糊數學理論的爭議?

ACE遊戲 在混亂中尋找秩序,在自然界中尋找穩定。引用自菲爾茲獎頒獎詞。爭論是當下的,模糊數學應用範圍變廣,但不代表理論基礎紮實,無異於空中樓閣,但他又確確實實能夠很好的應用於工業。當下理論基礎的完善仍然是乙個要解決的問題。當理論基礎完善之後,就更能推動科學的發展。希望模糊數學也能像量子力學一樣披荊...

有哪些些數學理論很強的機器學習資料?

Dixit 給你推薦一本張賢達的 矩陣分析與應用 看過的人都說好https zhuanlan p 94805436 塵迪 非常推薦 PRML Pattern Recognition and Machine Learning 中文版名為 模式識別與機器學習 我讀過的若干機器學習書籍中,數學理論非常深的...