貝葉斯推斷中為什麼不能直接從posterior sampling而是要採用MCMC方法

時間 2021-06-04 03:20:10

1樓:

第乙個問題:

因為你不知道這個後驗的分布是什麼樣的形狀和公式你能得到的只有它的結果假設它是乙個很複雜的積分(奇形怪狀或高維) 普通的方法是沒有辦法直接求解的然而通過sampling可以近似求解 sampling越多結果越準確

第二個問題 :

不能不是所有的分布都能sampling出來假設函式是P(x) = P*(x)/Z 我們要求的分布(假設後驗)是P(x) 然而由於P(x) 太複雜只能近似求P*(x) 但是就算能求P*(x)也不能直接求P(x) 因為Z是乙個非常大的數(normalizer,貝葉斯裡是evidence), 一般情況下也假設求解不了。所以只能近似求解P*(x) 再求sampling或期望來近似。就算能discretize, cost is so expensive, especially in high dimensional.

以上大致為Mackay 29章的理解,如有錯大牛們請指出。

還有不只是MCMC方法, Monte Carlo 方法也可以sample出後驗。

為什麼樸素貝葉斯分類中引入的拉普拉斯修正是正確的?

克勞德 知道了貝葉斯估計就比較好懂了 在貝葉斯統計中,如果後驗分布與先驗分布屬於同類,則先驗分布與後驗分布被稱為共軛分布,而先驗分布被稱為似然函式的共軛先驗。共軛先驗的好處主要在於代數上的方便性,可以直接給出後驗分布的封閉形式,否則的話只能數值計算。共軛先驗也有助於獲得關於似然函式如何更新先驗分布的...

如何從博弈樹中劃分出各個子博弈?貝葉斯法則如何使用?

先補充一點背景。上圖摘自張維迎的 博弈論與資訊經濟學 P 7 在此圖中,我們可以看出博弈論大概分為四類,每種類別都有固定的納什均衡。這道題中所問的 如何分辨子博弈 是求解子博弈精煉納什均衡的基礎。而 貝葉斯法則 是求解精煉貝葉斯均衡的基礎。一 完全資訊動態的子博弈精煉納什均衡 完全資訊動態一般用擴充...

為什麼學貝斯不能找結他老師教

林華 吉他貝斯只是長得像,功能完全不一樣,根音那種吉他老師能交,不過沒什麼用。貝斯線路和律動不是吉他手思維裡固有的東西,所以要想水平往上走還是得找個好貝斯老師。 步川秋庫 一名合格的貝斯手要有良好的bass意識 反正大家也不希望你solo。嗯?我作為乙個不成功的三流貝斯手現在斗膽講講自己的故事.一開...