脈衝神經網路和非脈衝神經網路各有什麼優缺點?

時間 2021-05-30 19:02:30

1樓:張張弡

SNN的理論先進,更具有生物可解釋性,有望實現真正人工智慧。但是缺乏普遍高效的學習演算法。

非SNN現在已經成熟,並得到了廣泛應用,但不是實現真正人工智慧的途徑。

2樓:

如果從電腦科學的角度來講,這兩個都是玄學。

目前較多的神經網路,那應該是神馬BP神經網路之類的,這些東西應該屬於統計學習的內容,它們用來解決一些實際問題,比如影象裡的識別,探測,自然語言裡的翻譯等等,思想就是從大量的資料中學習資訊的內在規律。

雖然無法解釋其中原理,衍生出所謂的調參黨,而且效果也。。。不那麼如意,但似乎是目前為止效果最好的解決辦法。因為它們的應用領域太難了。

真要做的跟生物那樣,我估計得等到真正的2023年。。。

脈衝神經網路。。。那是玄學中的玄學。BP神經網路之流,是從解決問題的角度出發去設計結構。

而脈衝神經網路,那就反過來了,就是從生物神經網路的結構出發,去解決人工智慧領域的問題。目前的階段。。。好像還沒找到任何實際問題的方法,美其名曰具有巨大的潛在價值。

不過他們的研(編)究(的)成(故)果(事)還是很好聽的。比如:

我們實現巴普洛夫和狗啦!

我們實現帶有遺忘功能的巴普洛夫和狗啦!!

我們實現帶有遺忘和快速回憶功能的巴普洛夫和狗啦!!!

如果它能解決實際問題,我估計得等到***年。。。

順便一提,大約8億年後,地球已經不適合生物生存了,詳細參見維基百科Timeline of the far future

除了脈衝神經網路和BP神經網路外,非主流的還有神馬hopfield神經網路,細胞神經網路。。。你永遠不知道人類的想象力有多豐富。。。等到它們有應用,估計得等到太陽燒完了。。。

3樓:KarlXing

首先,脈衝神經網路與傳統的人工神經網路的神經元模型不同。

在非脈衝神經網路中,神經元的計算模型大致是這樣,layer之間傳遞的是乙個個值。

而在脈衝神經網路中,神經元傳遞的是乙個個脈衝,每個神經元有乙個membrane voltage,乙個神經元接受輸入脈衝,導致membrane voltage變化(inhibitory neurons和excitatory neurons分別起反向和正向作用),當神經元的membrane voltage達到乙個閾值時,便傳送乙個脈衝,這個脈衝再向後傳遞。

由於脈衝神經網路傳遞的是乙個個脈衝,它們組成了乙個脈衝序列,單個脈衝之間的時間間隔不一定,脈衝序列中蘊含了temporal information,這是傳統的人工神經網路所不能表達的。

除此之外,脈衝神經網路中的每個神經元只有接收到乙個脈衝時,才需要進行計算,功耗更低,計算更快;而傳統人工神經網路需要一層層的計算,計算量要大很多。

但是脈衝神經網路暫時並沒有找到乙個完美的訓練演算法,尤其是需要訓練深層網路的時候。而傳統人工神經網路借助統計與優化等數學工具得到充分發展,訓練得到的效果目前比脈衝神經網路要更好。

因此目前也有一些工作在做將傳統人工神經網路比如CNN,DBN轉化為SNN(spiking neural network),這樣相當於是將傳統人工神經網路中乙個神經元的值,當做是對脈衝的頻率編碼。

總的來說,脈衝神經網路有更強的生物學基礎,潛在的能力更強大,但尚待開發;而傳統人工神經網路充分利用統計學與優化等數學工具,現在取得的效果更好。

4樓:NegativeFace

生物神經網路內的脈衝強弱是用來編碼資訊強度的,私以為可以看作神經元無法控制單次脈衝強度的一種妥協。到了人工神經網路裡它實際上被轉化成了神經元間傳遞的浮點數,所以沒必要使用多次脈衝。

對於神經科學不是很了解,望斧正。

如何看待人工神經網路ANN和脈衝神經網路SNN的發展?

十萬個為什麼 SNN起源於人類對生物神經網路的解剖,是一種機理模型 ANN是一種工程模型,架構上源於生物學基礎,但是又採用了數值優化的方法進行求解。當前的科技發展水平下,ANN更實用,可以解決很多實際問題,而SNN在功能性角度方面遠遠弱於ANN。從發展前景方面,ANN顯然不及SNN,因為生物神經網路...

卷積神經網路和BP神經網路的關係?

乙個維度的BP神經網路就相當於CNN中的全連線了,無非是多幾個全連線,CNN是二維,二維如果搞成全連線就導致運算量巨大,所以有了權重共享,大大減少了運算量,CNN卷積的思想肯定也源於BP神經網路就,在影象上做二維卷積的CNN發出炫目的光芒下,BP神經網路就已經快被人們遺忘了,但是不管CNN再怎麼發展...

卷積神經網路(CNN)和迴圈神經網路 RNN 有什麼區別?

不存在的1990 從字面區分 cnn 裡面的 c指 convolutional operation,是一種提取影象特徵方法。把這一operation加入到layer裡面構成了convolutional layer。rnn裡的r 指recurrent,中文是重複的意思。rnn構造的結構也是recurr...