1樓：whjox
我理解的hierarchical softmax是word2vec裡的，如果已知context去求word的概率p直接用softmax的話，需要計算所有詞與context的內積，運算量是很大的。反之，如果構建乙個huffman tree，每次進行一次二分，那麼求p的話只需要沿著路徑從根節點到指向這個詞word的葉子節點，把一路上的概率相乘即可，運算量上小了許多。所以我感覺只是一種減少運算量的方法。
不足之處希望指出：）
參考：http://www.
2樓：Yao Wu
HS只是用來解決直接優化softmax loss複雜度太高的問題的一種方法，也有其他的loss或者求解方法作為替代。
詞嵌入是neural language model做的事情，用不用HS取決於最上層是不是用了softmax以及是否用它來求解。
3樓：郭阿澤
佔坑) 可以去看一下Bengio2023年的那篇hs的文章，【Hierarchical Probabilistic Neural Network Language Model】輸入的是單詞表達，hs的輸出可以理解為中間結點的表達，中間節點是每一次分類，可以看作多分類問題。
為什麼處在乙個有欲的狀態之下，可以觀察到事物的邊界和界限？可否具體舉幾個例子？
阿浩 這句話的意思是站在有的境界，去觀察萬物。而不是有欲。世間萬物都是存在到消亡。這期間就存在邊界。站在無的境界，可以看到無中生有，所以是觀其妙。 觀我生 無慾是初始狀態，沒有趨向，觀的就是本源。有慾時它就有乙個趨向，有乙個趨向，最終它就成一事物，也就是觀它 成 的狀態，就用題中說的邊界也行。所以無...
乙個人的武功可以厲害到什麼程度？
louzhiguo0000 打一群人是可能的，但是必須靈活閃避，化整為零，各個擊破，每次擊中對方就得將其打倒沒有進攻能力。如果兩三個或更多的人同時圍攻乙個人，這個人是扛不住的。以水滸傳為例 魯智深打不過崔道成和邱小乙的人夾攻，當然此二人也非等閒，而且魯智深餓著肚子。魯智深進入賀太守府邸，被三四十個公...
夫妻之間，乙個沒錢的男人可以卑微到什麼程度？
閻老師的心理課堂 婚姻生活中，看乙個人自信或是自卑，就要去觀察他有沒有對婚姻生活失去信念。在婚姻中自信的人，不會失去對生活的熱愛，更會保持著自己的信念，在生活的道路上勇往直前。然而自卑的人，只會對婚姻生活失去信念，甚至會變得不思進取。乙個自卑的人，永遠看不清生活的本來面目，永遠都無法估量自己的能力，...