GCN有必要做深層嗎

時間 2021-05-05 12:49:55

1樓:NewTicket

從現有的實驗成果來看,大多數情況下Deep GCN的效果是比Shallow GCN的效果差的。

調研發現加深GCN的motivation主要有兩點:

1.受深層CNN啟發;

2.GCN的層數決定獲得幾階鄰居的資訊,層數加深獲得圖的全域性資訊。

這兩種動機很主觀,但也比較符合認知。

徐冰冰,岑科廷,黃俊傑,沈華偉,程學旗.圖卷積神經網路綜述[J].計算機學報,2020,43(05):755-780.

2樓:墨菲特先森

看GCN處理的具體任務吧。

從空域角度分析的話,一層GCN相當於對一階鄰居節點資訊進行聚合,而多層堆疊就相當於不斷的增大聚合的半徑,模擬於CNN相當於感受野不斷的增大。當GCN層數達到一定深度時,圖中的乙個節點就幾乎包含全圖的資訊了,這種全域性的資訊相對有利於Graph Level層面的任務,例如圖分類(ST-GCN)。但還有很多任務僅需要探索Graph的區域性關係時則不需要很深層,層數太深會導致over-smooth的問題,效果反到會下降。

大部分觀點來自於《深入淺出圖神經網路》,你可以看看,對於像我這樣GNN入門的小白,這本書的內容還是很友好的。

3樓:

還是要看具體任務。DeepGCN一定程度上證明,在point cloud資料上是需要深層的。[1]理論上證明,GCN的層數和其能維持的graph性質是相關的。

[1] Understanding the Representation Power of Graph Neural Networks in Learning Graph Topology, NeurIPS 2019.

4樓:

看問題吧,關鍵是底層物理系統需不需要傳遞遠端作用,如果是人類社會網路,那大概要傳遞多少層? GCN如果理解成訊息傳遞機制,層數大致就是訊息傳遞的迴圈次數,這個東西沒有絕對標準吧,還要看你訊息傳遞的強度,弱的訊息傳遞多個迴圈等價于強的訊息傳遞有限迴圈。除非你的意思是保持訊息傳遞的強度的前提下,是否有必要增加訊息迴圈次數,那麼這個東西還是要看具體問題的需要。

能否做到多層,恐怕不是能不能做到深層(單純去傳遞肯定可以),而是能否保證這個訊息傳遞仍能夠保持資訊傳遞的有效性不會得到平凡的結果,感覺這個還是要靠發掘恰當的訊息傳遞中的 potential function。

讀書有必要做摘抄嗎?

雲悠水澈 需要 想要認真讀的書,必須筆記,摘抄只是筆記的一部分。筆記除了備忘外,還有以下意義 通過清晰有序的筆記,梳理書中的知識 思想,協助自己清晰地理解 記憶 運用。理解是乙個不斷深入的過程,重溫的收穫大於初次閱讀。筆記可以快速的概覽 重溫,並不斷補充深入。值得細讀的文章,筆記是進一步研究 深入的...

讀書有必要做筆記嗎?

馮.諾依曼 沒必要。即使課堂 讀書 筆記,也只會記教員強調或補充性的內容。個人盡可能保持常讀常新的狀態,活人的書多半沒有意義。有些事腦子裡過一遍就行了,明哲保身計,最好不要落在紙面上 指任何載體 閱讀就是洗澡,他人即地獄,沒有人願意在大庭廣眾之下洗澡給人看,雖然我很喜歡讀別人的讀書筆記。 雲悠水澈 ...

男人有必要做脫毛嗎

對方正在輸入8200 對於我這種對體毛嫉惡如仇的人來說吧,體毛是肯定要脫的!但是對於有些對外表不太在意的人來說,體毛什麼的都是無所謂的!所以男生想脫毛就脫毛,那怕你脫頭髮呢,都沒人能管的住你,只要你自己開心就可以了!畢竟現在是自由人權社會 男孩子也有愛美的權利呀,並不是說只有女孩子才有愛美的權利的,...