GCN GAT GraphSAGE的優勢很明顯,想問一下它們分別有什麼缺點

時間 2021-05-12 05:20:53

1樓:PHY1996

GCN和GraphSAGE均是各向同性的網路結構,某些情況下學習表示的能力較差一些,只能用於無向圖。而GAT是各向異性的,考慮了各個鄰居節點的權重,可以用於有向圖。

GCN和GAT在最開始被提出來的時候,是不考慮自身節點資訊的,因此效能比較差,後來人們對圖矩陣增加自環的方式來一定程度上緩解這個問題。而GraphSAGE被設計出來就考慮了節點本身的資訊。

BenchmarkGNN文章在各個任務上對這幾種方法進行了比較,GCN是效能最差的,GAT效能介於中間,GraphSAGE效能較好。另外GCN和GAT均可以使用殘差連線的方式來提公升效能。

最後談一點,即便使用了殘差連線,GCN也不可能做的太深,基本就是3-5層左右的樣子。這是因為GCN可以被看作低通濾波器,疊加低通濾波器具有明顯的過度平滑現象。如果想要做的更深,可以考慮一下DropEdge的方法,通過在訓練過程中隨機扔掉一些邊來緩解過度平滑的現象,這種方法最近被證明是有效的。

修正:在採用了BN層和residual連線時,gcn可以做很深。

我們現在的工作有對一系列GNN做形式上

2樓:zjwreal

GCN:訓練是full-batch的,難以擴充套件到大規模網路,並且收斂較慢;

GAT:參數量比GCN多,也是full-batch訓練;只用到1-hop的鄰居,沒有利用高階鄰居,當利用2階以上鄰居,容易發生過度平滑(over-smoothing);

GraphSAGE:雖然支援mini-batch方式訓練,但是訓練較慢,固定鄰居數目的node-wise取樣,精度和效率較低。

我想問一下菱形臉,額頭窄,顴骨高的女生,適合什麼樣的髮型?

絡晨 菱形臉的女生一般來說顴骨位置會比較突出,所以在選擇髮型的時候,盡量要選擇能夠修飾顴骨的髮型。這種時候像大捲水波紋 C型卷 外旋卷都是比較適合的,在修飾顴骨的同時呢,還能增強整體氣質感。 44次日落 原圖素顏 同學都認為我扎頭髮好看,披頭髮嘛 就很無語。高二166 115 或許減個肥效果更好?核...

想問一下這個像雪橇一樣的輪滑或者滑板叫什麼。。。?

齊亮 roller skiing 英語 rulleski 挪威語 直譯就是用輪子的滑雪,基本上就是冬天的越野滑雪 cross country skiing 在夏季的對應專案,在挪威這樣的北歐國家,可以說是非常常見了。裝備 頭盔,自行車頭盔即可 雪仗,和冬天用的還是有些不同的 雪板,可以理解為一段雪板...

想問一下大家對娛樂圈美女的定義是什麼?為什麼我認為是美女的,看到大多數人在嘲笑她醜。?

魏之南章 娛樂圈沒有美女,只有資源堆起來的女性工作者!沒有資源五官好,沒有流量,還不是路人。有資源,醜了可以整,有點醜可以ps,還可以的,用錢砸流量,就成了所謂娛樂圈美女。 庸知 1不排除有些人就是想讓你知道他的審美比你高階多了。就是裝 2可能真的是主觀感受不同可大眼睛小嘴巴膚白貌美五官精緻大概都是...