怎麼從通俗意義上理解邏輯回歸的損失函式?

時間 2021-05-06 03:19:53

1樓:

損失函式是衡量學習成果好壞的乙個標準

這裡的關鍵乙個是伯努利分布,乙個是最大似然估計最大似然估計往往會轉化成對數的形式,對數函式是單調的,也就是說,乙個變數的最大值,在做完對數變換後,仍然是最大值,然而,任何概率取對數,都會成為負數,人們往往更喜歡處理負數的相反數,乙個負數的最大值,是它取相反數後的最小值,或者說是絕對值最小,而損失函式,恰恰就是這個似然函式取對數後,再取相反數

即:所看到的損失函式最小,對應的是似然函式的最大這是我能想到的最簡單的解釋了

2樓:

學渣強答一波吧。

最小二乘算平方和一般都是解決線性損失的,這種對數回歸分類模型的引數估計一般都是用似然函式就是交叉熵來梯度下降或者牛頓法而不是用殘差,反正我是這麼理解的。。。。

老師之前講引數估計也就是最大似然和樸素貝葉斯這倆

3樓:路飛D悟空

h(x)得出的結果可以理解為概率p,即:

h(x1)對應在x=x1條件下,y=y1的概率為p1,h(x2)對應在x=x2條件下,y=y2的概率為p2。。。。。。。

h(xn)對應在x=xn條件下,y=yn的概率為pn那麼對於既定的樣本(X,Y),h(x)是什麼函式的情況下最理想呢?

就是該函式令p1*p2*p3*......*pn為最大值時而損失函式一般是每條資料的損失之和,為了把積變為和,就取了對數

再加個負號是為了讓最大似然值和最小損失對應起來。

此處感謝 @王贇 Maigo 在另乙個問題的回答對數損失函式是如何度量損失的? - 機器學習 - 知乎

哲學意義上的幸福,你是如何理解的?

鹽選推薦 既然每個世紀的每一位思想家都認識到人們在不斷追求情感愉悅,那為什麼 幸福 這個詞的定義會這麼混亂呢?其中乙個問題就是,許多人認為追求幸福的慾望有點兒像排便的慾望 它是每個人都有的慾望,卻不是特別值得驕傲的慾望。他們頭腦中想到的幸福都是廉價和低階的,是愚昧的 牛的滿足 狀態,完全不可能成為有...

因 規律 果,所以決定論從邏輯的意義上來說是無懈可擊的麼?

自學生 大自然規律和思想的認知理念決定,是乙份一對一半的三方基準,是一對的對半的三方原理性質規律的統一基因基準模型,地球繞太陽旋轉的1份 6份 60份,是元點半徑方向時間週期,是1份的6 60 360天的自然思想規律的時間基準模型,地球365 多天的實際時間速度和自然規律的基準模式,都是一對的基準模...

從0到10,各個數字在自然哲學意義上的性質都有哪些?

龍的傳人 咦!這種問題?可以回覆 0?它在數字意義上是沒有?可是卻是乙個數?本身就是乙個矛盾!所以沒有又是有了?懂嗎?超過數字意義的定義!所以它很特別!矛盾集合體!懂嗎?也許發明數字的想到這個可能了?所以羅馬數字中沒有零 桃源閒客 小學生查數字啊!這個我會。只不過10個最基本數字的查法是不是應該從1...