1樓：李鵬宇
一般來說，人為規定初始狀態是0，即一個與後面狀態同形狀的矩陣。可以這樣理解：在我們還沒有開始思考的時候，大腦空空如也(也許有一丟丟噪聲)。
2樓：張鑫
隱藏層隨機初始化。根據順序資料採集和隨機資料採集的區別，需要在epoch開始和batch開始的時候初始化。可以參考李沐的動手學深度學習的迴圈神經網路一章
3樓：
卷積神經網路（CNN）和迴圈神經網路 RNN 有什麼區別？
不存在的1990 從字面區分 cnn 裡面的 c指 convolutional operation，是一種提取影象特徵方法。把這一operation加入到layer裡面構成了convolutional layer。rnn裡的r 指recurrent，中文是重複的意思。rnn構造的結構也是recurr...
卷積神經網路和BP神經網路的關係？
乙個維度的BP神經網路就相當於CNN中的全連線了，無非是多幾個全連線，CNN是二維，二維如果搞成全連線就導致運算量巨大，所以有了權重共享，大大減少了運算量，CNN卷積的思想肯定也源於BP神經網路就，在影象上做二維卷積的CNN發出炫目的光芒下，BP神經網路就已經快被人們遺忘了，但是不管CNN再怎麼發展...
如何評估神經網路演算法的計算量，從而來確定需要多少GPU的投入？
GPU的投入有兩方面 視訊記憶體GPU計算量 視訊記憶體占用 模型所佔的視訊記憶體 乙個batch的訓練資料占用的視訊記憶體模型視訊記憶體占用可以通過計算模型中的矩陣大小乘以單個元素所佔位元組計算。訓練資料的視訊記憶體占用也可用類似方法計算。計算量的單位是flop，也就是乙個乘法和加法，例如計算兩個...