1樓：Ricky
Gaussian Mixture Model是乙個典型的存在latent variable的問題。
從頻率學派的角度看，其難點在於latent variable的存在導致MLE很難計算，因此EM演算法通過Q function來逐步優化資料的log likelihood，這個思想和Variational Inference以及KL divergence也是類似的。
而從貝葉斯學派的角度來看，我們這裡需要做的是給模型中涉及的變數乙個合適的先驗，以便於計算。對於latent variable而言，由於這是乙個分類變數，因此我們選擇Dirichlet distribution，這是分類變數的乙個常用先驗；而在Gaussian Mixture Model中，每乙個成分是乙個正態分佈，因此其引數可以選擇一組共軛的Normal-Wishart分布，這時p(\pi, \theta, Z | X)=p(\pi | Z) p(\theta | Z, X) p(Z | X)，其中分布未知的是p(Z | X)這部分，而對於這個概率，固定Z的其他維度，只計算Z的乙個維度，即p(zi | Z-i, X)\propto p(zi, xi | Z-i, X-i)=p(xi | zi, X-i) p(zi | Z-i)，這兩部分都是可以計算的（這就是選擇共軛分布的優勢），因此我們可以使用Gibbs演算法對p(zi | Z-i, X)進行抽樣，從而完成對以上引數的估計。
EM演算法和MCMC從兩個角度對於乙個問題給出不同的解決方法，我個人覺得EM演算法的解法更為直觀，也更容易實現。
高斯過程回歸能不能新增T分布或者高斯混合分布的雜訊呢？
驀風星吟 無論是理論上還是現實中，當然都是可以的啦！事實上在高斯過程回歸中noise的形式也即likelihood的形式並不是GPR模型的核心，但是這個高斯noise的假設卻可以為GPR模型提供closed form的的解析解，這是因為原先的模型是 如果我們再assume其中的noise也來自高斯分...
如何求解「收穫愛情」數學模型？
fire god 選物件模型，一部分感性，一部分理性。求理性模型。這個目標值是理性的。採用回歸分析，選取更多的自變數，保證資料的真實性以及質量。最重要的是這些個自變數有生命週期的，例如，20歲左右，噴香水，25歲不噴了，你就悲劇了！自變數最好有自評 他評等，例如紳士風度，他自已認為有，但在大部分人看...
請問線性混合效應模型r語言怎麼實現？
拓端資料科技 瀉藥，混合模型適合需求嗎？混合模型在很多方面與線性模型相似。它估計乙個或多個解釋變數對響應變數的影響。混合模型的輸出將給出乙個解釋值列表，其效應值的估計值和置信區間，每個效應的p值以及模型擬合程度的至少乙個度量。如果您有乙個變數將您的資料樣本描述為您可能收集的資料的子集，則應該使用混合...