相對於CNN和RNN, 利用圖神經網路 GCN GAT 進行文字分類有什麼不同,有什麼優勢

時間 2021-05-30 13:22:56

1樓:Thinkwee

基於圖的方法在處理短文本分類上有一些優勢,因為短文本本身資訊量不夠,而圖能夠引入額外的資訊,比如以詞作為節點,在構圖時引入的依存關係,實體資訊(這種沒看到應用在文字分類上,在關係抽取上有應用);或者用句子作為節點,可以利用語料裡樣本之間的關係,進行半監督學習,解決短文本分類語料的稀疏問題。

假如是以句子為節點,那麼可以用rnn或者cnn先生成句的embedding再送入gnn。

Yao, L., Mao, C., & Luo, Y.

(2018). Graph Convolutional Networks for Text Classification. arXiv:

Computation and Language,.

Linmei, H., Yang, T., Shi, C.

, Ji, H., & Li, X. (2019).

Heterogeneous Graph Attention Networks for Semi-supervised Short Text Classification. international joint conference on natural language processing.

卷積神經網路(CNN)和迴圈神經網路 RNN 有什麼區別?

不存在的1990 從字面區分 cnn 裡面的 c指 convolutional operation,是一種提取影象特徵方法。把這一operation加入到layer裡面構成了convolutional layer。rnn裡的r 指recurrent,中文是重複的意思。rnn構造的結構也是recurr...

回顧歷史和現在男排相對於男籃和男足是成績最好的且投入最少,為什麼關注度這麼低?群眾基數這麼少?

多方面比較,這個答案就顯而易見了。1.關注度 排球不在世界十大運動之列,算是比較 冷門 的體育專案,要不是中國女排在國際賽場上璀璨奪目,恐怕關注的人會更少。足球作為世界第一運動,關注度不用說了吧?世界範圍內的足球熱足以讓中國人關注到中國足球,籃球呢,也是世界十大運動之一,再加上NBA的風潮帶動,關注...

相對於日語,漢語的優點和不足都有哪些?相比於韓語呢?三種語言的優劣都是哪些?

louzhiguo0000 日語語音構造簡單,引入印歐語詞時非常方便,吸收現代科學詞語要比漢語容易 現代科學詞語基本上都是歐洲語言創造的 日語的語法結構比漢語清楚,日語的句子界限完全明確,很多語言都做不到這一點。 Diaking 日語的優點 一 語法較漢語嚴謹。二 對外來語包容力強。三 發音簡單,基...