為什麼最大似然估計中是最大化概率密度呢?

時間 2021-06-09 14:52:05

1樓:查查

所有點的概率為0,但是不同點的相對概率不同(0/0型無窮小),概率密度高的點,對應的相對概率更高,所以最大化概率密度是使得相對概率最大。

2樓:澤城太太鐵桿粉

以下為個人粗淺理解,不對輕噴。

在連續分布情形,單點的概率為零,這點沒有錯。問題是為什麼單點的概率為0?我們知道在連續分布的支撐集上取一點,記為x吧,x點的概率密度f(x)是大於0的,記連續分布的累積分布函式為F。

從極限的觀點來看,x點的概率是f(x)與乙個正無窮小 的乘積取極限,所以為0.

回頭看似然函式,如果用樣本點的概率來寫的話,可以表示為極限形式。而argmax與limit在概率乘積表示式對 連續時是可以交換次序的,故,最大化密度函式得到的最優解與最大化概率是一樣的。

3樓:Defu Li

理論上講應該是要優化所有樣本的聯合分布概率,讓概率最大化,然後求導,找到極值點,就可以求出引數了。

現在優化的是聯合分布的概率密度,少了乙個求和的過程,應該本質上是進行了簡化,最終的效果一樣。

邏輯回歸損失函式為什麼使用最大似然估計而不用最小二乘法?

遊衍莫忘 說點自己的理解,邏輯回歸中的最小二乘為什麼不一定是convex 假如有乙個資料集如圖所示,紅色代表1,藍色代表0,我們大概可以知道最優的解是 假如我們的損失函式是最小二乘,也就是 初始值是,上面被判定為1,下面被判定為0。我們從開始找損失函式最小,很容易找到 此時我們面臨乙個艱難的選擇,要...

最大似然估計和EM演算法的關係是什麼?

Paion 期望最大化期望最大化 Expectation maximuzation 演算法在統計中被用於尋找,依賴於不可觀察的隱性變數的概率模型中,引數的最大似然估計。EM是乙個在已知最大期望演算法 Expectation Maximization Algorithm,又譯期望最大化演算法 是一種迭...

在交易中你是如何實現利潤最大化的?

於小魚 什麼是最?最是事後的。人類思維為什麼老是追求極限,完美。換個角度,人人都最,那個點能是最嗎?題主想織成一張網,又能釣蝦,又能打魚,還能捉水怪。說不定還能變出航母。 yy tt 理想化?首先那張圖基於你自己半年入行,甚至對大部分人來說是找不出2點4點來出倉的。所以這個問題是偽命題。臨池羨魚不如...