LDA中,多項式分布, 和狄利克雷分布的 形式一致,所以稱為共軛,但是 這兩個分布的區別是什麼呢?

時間 2021-06-03 19:20:49

1樓:

對 Dirichlet 分布做取樣,就可以得到多項分布。對 Beta 分布做取樣,就可以得到二項分布。

看上面這個公式,先驗分布 Dir(p→|k→) 在觀察到當前服從多項分布的樣本 m→ 後,就得到了對應的後驗分布(這是從貝葉斯角度),上面的式子也就是說題主所說的共軛。

Dirichlet 分布的定義為

給定 P 和 N,多項分布的定義為:

可以看到,Dirichlet 分布的引數 alpha 在指數字置,多項分布的引數 p 在底數字置。並不是因為 Dirichlet 和 Multinomial 的分布形式一致所以稱之為共軛,而是乙個分布加上另乙個分布,結果跟該分布形式相同,才叫共軛。

直觀上講,乙個分布加上該分布的乙個樣本,當然還是該分布。

Dirichlet 分布描述的是多項分布服從什麼分布,具體來說,就是當前 document 的主題分布服從那種分布,而對於某一篇 document 而言,其主體是確定的某乙個 topic,它是從某乙個主題分布中取樣得到的。因此似然函式使用多項分布。

如果是針對多個 corpus,那麼多個 corpus 上的主題分布的分布情況可以使用 Dirichlet 分布,取樣得到某乙個多項分布,就是其中乙個 corpus 的主題分布情況,在該 corpus 下取樣乙個 topic,就是該 corpus 中某一篇文件的主題。在結合另一支分布,就可以取樣得到某個 topic 下該 documnet 可以取樣到那些 word。

2樓:王贇 Maigo

多項分布中,底數是分布引數,指數是隨機變數;

Dirichlet分布中,底數是隨機變數,指數是分布引數。

在貝葉斯估計中,多項分布的引數也被看成隨機變數,它們的分布就由Dirichlet分布來描述了。

請問如何理解最小多項式和特徵多項式之間的關係?

宙宇001 極小或者說最小多項式,在代數裡經常講到,比如我們可以談乙個矩陣,乙個線性變換或者乙個代數數的極小多項式,那麼什麼是極小多項式呢?有乙個較為一般的定義 給定 定義集合 則 中有且僅有乙個次數最小的多項式 我們就稱之為矩陣 的極小多項式 先說明該定義的合理性,存在性是顯然的,唯一性也容易證明...

MATLAB 怎麼提取多元多次多項式中僅僅一次項的係數,比如 x y z 2 x 2 y 2?

楊楊 可用coeffs指令提取多項式的係數。比如提取含x各項的係數 symsxy zf x y z 2 x 2 y 2 fx subs f p coeffs fx p 1,2 把y和z賦0,得到的fx x 2 x 2,用coeffs提出的係數向量為p 1,2 注意,係數的次序是按照x的冪次從低到高排...

數域P上的一元多項式和高中的一元多項式有什麼不同

劉醉白 高中教材不講數域上的多項式的帶餘除法,大學高等代數講多項式會先講數域上的多項式的帶餘除法,使數域上的多項式和整數表現出類似的性質,還會講最大公因式,可以模擬整數的最大公因數,以及多項式的Bezout定理,可以模擬初等數論的Bezout定理。等到學抽象代數的時候,我們會更關注多項式集合中的運算...