如何理解CNN在CV與NLP領域運用的聯絡與區別?

時間 2021-05-05 22:30:21

1樓:約翰曰不約

CNN在CV領域已經發展的比較成熟,NLP相對來說最近一兩年才開始廣泛使用CNN,並且取得了不錯的效果。

為什麼CNN用在CV上更得心應手,卻不一定適合NLP?要看清這點就要理解CNN的原理。CNN有兩個主要特點,區域不變性(location invariance)和組合性(Compositionality)。

1. 區域不變性:濾波器在每層的輸入向量(影象)上滑動,檢測的是區域性資訊,然後通過pooling取最大值或均值。

pooling這步綜合了區域性特徵,失去了每個特徵的位置資訊。這很適合基於影象的任務,比如要判斷一幅圖里有沒有貓這種生物,你可能不會去關心這只貓出現在影象的哪個區域。但是在NLP裡,詞語在句子或是段落裡出現的位置,順序,都是很重要的資訊。

2. 區域性組合性:CNN中,每個濾波器都把較低層的區域性特徵組合生成較高層的更全域性化的特徵。

這在CV裡很好理解,畫素組合成邊緣,邊緣生成形狀,最後把各種形狀組合起來得到複雜的物體表達。在語言裡,當然也有類似的組合關係,但是遠不如影象來的直接。而且在影象裡,相鄰畫素必須是相關的,相鄰的詞語卻未必相關。

當然,還有些技術細節,CNN具體應用在CV和NLP上會有些不同,就不贅述了。比如,濾波器的大小,在CV裡濾波器一般覆蓋乙個區域性的小區域,NLP會覆蓋整個詞彙向量的寬度,等等。。。

那為什麼最近很多專案把CNN用在NLP上取得了很好的結果?很多時候,理論上嚴格正確的模型在實際上不一定比理論不完整的模型更好用。。。也是科研的魅力之一吧。

2樓:

cnn先在cv火,然後在nlp火,接著rnn在nlp火,現在又慢慢開始在cv火了,cv和nlp很多方法都是通用的,我覺得更重要的是學會遷移

3樓:賣糰子的小喵吉

額……瀉藥,但是我真的對CNN研究不深。

CNN的特點,就是通過卷積和池化大大減少了引數緯度,而這樣做又可以保證很好的效果其中乙個很重要的因素就是,自然影象的特性可以使之經過卷積池化後,扔保留絕大多數特徵資訊。

所以,在cv中,CNN可以說是所向披靡。以至於現在說起深度學習,人們就會想到CNN,好吧我承認CNN是個很贊的模型,但我真的更喜歡(也只懂點)RBM啊。

至於nlp,不是大家都在用rnn的嗎……

在相對論中,如何理解時鐘與時間的關係!?

abada張巨集兵 時間ct是指指定的兩事件發生的時間間隔,它與鐘錶走速成反比。鐘錶自己看自己總是空間速度為0,時間走速是光速,自己出發與到達兩事件的時間間隔是c 認為其它運動的鐘錶走速慢,同樣兩事件,運動鐘錶測得時間間隔ct長。相對論認為任何物體的速度都是光速c,這是指四維速度。如圖,橫軸是時間維...

如何理解毛姆在《月亮與六便士》中所寫「為什麼漂亮女人總嫁給無趣的男人,因為聰明的男人不會娶漂亮女人」

很簡單,因為雙方都是聰明的人。你回想一下你現實生活中有沒有那種明明長得很漂亮的女生,卻嫁給乙個長得醜或長得一般的男人呢?因為那種男生會把漂亮的女生放在手心捧著。像我這麼帥氣,這麼聰明的。只恨爹媽沒讓我長得醜啊。 放在當時那個時代這話沒啥錯,反正女性的作用就是乙個大號孕育試管,只有依附於丈夫才能活下去...

在話劇排練中,如何看待你對人物的理解與老師的不完全相同?

已登出 經常出現這種問題。確實頭疼。放棄吧,說服不了自己。堅持吧,你得掂量掂量自己的斤兩。如果你是純粹的,在演人的角度出發,已經抓住了這個角色作為乙個人的內心。就是體驗到了,那麼可以去試著照自己想的給老師演一遍。只要你是純粹的在演戲,不做作。問心無愧當然要堅持。無論是老師的想法,還是自己的想法。最終...