深度學習與神經網路有什麼區別?

時間 2021-06-07 19:38:56

1樓:徐佳逸

深度學習可以理解成用深度神經網路(DNN,Deep Neural Network)來進行機器學習,他倆的關係可以從這個定義中一目了然地看出來。

深度神經網路(DNN)一般分為三種架構

樸素的DNN:就是一般性的神經網路往多層擴充套件,缺點很多包括訓練緩慢,用Backprop進行訓練梯度衰減得厲害;

深度置信(信念)網路(DBN,Deep Belief Network):基於RBN(Restricted Boltzmann Machine)的性質而建立起來的深度神經網路,適用於最大似然概率的估計,可以作為其他網路的預訓練來學習資料中的一些模式;

卷積深度置信網路(CDBN,Convolutional Deep Belief Networks):適用於從影象、語音、語句中找出規律。

困難乙個是訓練速度,另乙個就是需要大量的計算力啦,這個成本挺高的,像Google的AlphaGo用了1202個CPU+176個GPU,普通的人和公司也拿不出這麼強的計算力。

2樓:蓋文丁

神經網路 深度學習 機器學習是什麼?有什麼區別和聯絡?

達觀資料 機器學習是指利用演算法和統計模型,而非規則程式設計,使得計算機系統能在某個特定任務上提高表現。人工神經元是一種運算結構,它接收乙個或多個輸入,通過非線性函式變換,得到乙個輸出,而且該非線性函式是在學習過程中可變的。人工神經網路是一些人工神經元組成的網路,其中一些人工神經元的輸出作為另一些人...

深度學習,神經網路中,如何調節weight(以及其原理)?

陳瀚可 半年後的我終於有能力回答我自己沒水準的問題 由於資料集非常大的緣故,在 batch size 比較大的情況下梯度較於平緩.local minimum 實際上已經是乙個很不錯的 solution 了.如果要跳出 local minimum,可以使用 sin 形狀的 learning rate ...

深層神經網路與淺層神經網路相比,有哪些優點?為什麼要發展深度學習?

Ricman 一,區別 在架構上,除了除了輸入層和輸出層之外,神經網路乙個中間層。中間層在國內很多翻譯叫隱藏層。它其它就是乙個編碼器。淺層神經網路的中間層數量較少,雖然有研究表明淺層神經網路可以滿足當下很多的功能與需求,但不可否認的淺層神經網路比較大,引數數量很多。目前業界已經有乙個非常明確的結論 ...