1樓：Guocheng Qian
該理論，2023年被George Cybenko提出。我想你應該是在Ian Goodfellow的deeplearningbook 6.4.
1中看到的吧，其實他也解釋了你的問題（三層神經網路可以逼近任何乙個非線性函式為什麼還需要深度神經網路）。
A feedforward network with a single layer is sufficient to represent any function, but the layer may be infeasibly large and may fail to learn and generalize correctly.
—Ian Goodfellow
具有單個層的前饋網路足以表示任何函式，但該層神經元數量可能大到懷疑人生，並且引數可能無法正確學習，網路也沒法泛化。
UAT的卻宣告了存在這樣的可以近似任何函式的三層網路，但沒有告訴你如何獲得網路的權重，只說：`在包含有限數量的神經元情況下` 。幾億也是有限數量，但是這樣合理嗎？
況UAT還不說到底要多少神經元才行。 三層神經網路可以逼近任何乙個非線性函式， 但是卻可能需要特別多的神經元，並且泛化性並不好。並且在梯度下降時，這很難訓練。
所以，為什麼要加深網路呢？
學習方便。更深的網路中，學習會更容易，因為深度網路學習高水平的抽象特徵，以及pooling後的全域性資訊。實踐表明，resnet, batch normalization也解決了深度網路的梯度消失和收斂問題。
網路表現能力更強。單個隱藏層神經網路的複雜性僅在數量上隨著隱藏節點的數量而線性增加，而隨著深度呈指數增長。
泛化性更強。泛化性指的是網路本身是針對某個任務或某個資料集訓練的，但是卻可以遷移到其他任務和其他資料集上。 比如VGGNet, ResNet的pre-trained網路，經常被用到其他任務中，作為特徵提取的工具。
這是因為，deep network具有泛化性，往往前面十多層層網路提取出來的特徵圖，均是邊緣，顏色等表層資訊的提取，可以幫助其他任務進行前期的表層特徵提取。
2樓：
這個問題很關鍵
原教旨主義深度學習的核心理念，就是網路自身通過大量資料的（gpu加速）訓練，自主學習到資料特點或變化規律
3層全鏈結+啟用擬合任意(線性/非線性)函式，可是誰用神經網路只是為了擬合訓練資料？訓練的意義是為了讓網路可以對未知資料得出更準確的反饋
數值計算裡面各種差值方法樣條函式也有擬合能力，可是單純的擬合（對映），和學習，是完全兩回事，也是深度學習的核心理念，簡而言之深度學習的目的就是從簡單資料域的擬合/對映，進化成高層語義/特徵層面的擬合/對映，這就是學習
或者說，為什麼大家都知道參數量過多導致過擬合，但是依然在加參數量，加深加寬，加各種結構（LSTM attention nonlocal……）？都是一樣的道理。參數量過多導致過擬合其實是乙個經典的傳統機器學習命題，然而如何構建、引導網路在沒有數學基礎的情況下學習資料內在特點，才是深度學習關心的事情，參數量越多，網路理論上能力越強
3樓：
當前饋網路具備乙個線性輸出層和至少一層具備非線性啟用函式的隱藏層，只要給予網路足夠的神經元，就可以以任意精度逼近任何乙個從有限空間（可以離散）到另乙個有限空間的borel可測函式。(定義在R^n的有界閉集的任意連續函式都是borel可測的)
而深度的問題，goodfellow的花書也有介紹過，給定相同的引數，深的網路比大而淺的網路，擬合效率更高。
4樓：
因為深度神經網路的網路結構蘊含了乙個分類/回歸問題的歸納偏置
乙個足夠深足夠寬的神經網路是無偏學習器，它是沒有用的，因為它會對所有問題過擬合，只有乙個經過設計，含有歸納偏置的神經網路結構才能具有正常的泛化能力
用c 實現神經網路一般用什麼庫？
SMP66 2021年了，必須推薦一波後來出現的pytorch了。pytorch c api完全能滿足任意神經網路的設計，而且足夠簡單。比如我個人的開源分割專案就是基於pytorch cpp寫的。 Python的Theano每次執行都會先產生C程式碼再編譯執行.在Linux底下的話翻開資料夾 the...
使用神經網路破譯一般的加密演算法是否可行？
樸素的貝葉斯 能提這個問題說明了神經網路在 01判別 多類分類 單值回歸 多值生成 等場景下，在常見資料集上的能力已經達到或超越了人類的智慧型水平。從而使得人們誤以為它可以在 智慧型問答 邏輯推理 啟發計算 破譯破解 等領域攻克重要困難。神經網路算是乙個複雜度為O 1 的函式，對於RSA這種基於大素...
一般來說，女生對相親有什麼要求？
萌萌 不一樣的女生要求都不一樣吧。這裡說一下丈母娘比較普世的要求。身高多高以上，體重不能太胖。有穩定工作，有房有車。家裡無負擔。 彼岸花 物質 還完房貸夠吃飯就可以，不能月光 體重 別太胖就可以 臉 路人臉就可以，不要太帥的。感情 不可以與前女友藕斷絲連 聰明！聰明！其他可以再接觸。 一萬公尺以後 ...