請用通俗易懂的語言解釋一下什麼是熵?

時間 2021-05-31 01:48:33

1樓:張戎

寫過一篇關於 KL 散度的理論+運用的文章:KL 散度(從動力系統到推薦系統)

在資訊理論和動力系統裡面,Kullback-Leibler 散度(簡稱 KL 散度,KL divergence)是兩個概率分布 P 和 Q 的乙個非對稱的度量公式。這個概念是由 Solomon Kullback 和 Richard Leibler 在 1951 年引入的。從概率分布 Q 到概率分布 P 的 KL 散度用 D_(P||Q) 來表示。

儘管從直覺上看 KL 散度是乙個度量或者是乙個距離,但是它卻不滿足度量或者距離的定義。例如,從 Q 到 P 的 KL 散度就不一定等於從 P 到 Q 的 KL 散度。本文即將介紹如何將動力系統的概念運用到實際推薦系統的工作中,從而達到更佳的推薦效果。

詳細請見:KL 散度(從動力系統到推薦系統)

2樓:

我覺得人教版的物理課本已經算是通俗易懂的了吧選修3-3

就是用來形容系統的混亂程度的,熵越大混亂程度越大。

比如一副撲克牌,按順序擺好,這時候熵最小,可是洗一下牌,這時候混亂程度大,所以熵也就跟著大。

再比如,熵可以看作要描述這個系統所需要的文字長度,比如這個數字:1111111111111111111111111111111,

可以描述為 「32個1」

而2333333333333333333333333333333,

只能描述為「乙個2後接31個3」,用來描述這個數字的字串越長,熵越大。

這也就是壓縮軟體的原理,找到最小的字串來描述需要壓縮的檔案。

能否用最通俗易懂的語言解釋一下 Si和Se,Ni和Ne Ti和Te Fi和Fe?

說個ni 舉個例子,有一天吃山竹,看到山竹殼最下面有乙個類似於橙子的 臍 的東西,但是他是分瓣的,有六瓣,於是我和同學說,我猜這個山竹裡面有六瓣,掰開一看就是六瓣,後來我解釋說是因為看到下面那個東西了,同學問,你看到這個怎麼能猜測到呢?也就是同學並不能通過這個現象猜到山竹的結構 但你問我怎麼猜到的,...

請用通俗的語言解釋一下海涅定理?

男神男孩都有人愛 先來看一下海涅定理 歸結原則 的表述 只是從 形象化 的理解 你完全可以看成左邊的拆分成了右邊的兩個條件。看左邊,意思是所有離點a的很近的點,它們的像都離b很近那這個 離點a的很近的點 有無數離法,即有無數種數列,即條件中的 任意數列 把這個數列套進函式裡面 即f an 順著這個函...

可以通俗易懂地解釋一下雲服務嗎?

雲掣YUNCHE 雲服務是基於網際網路的相關服務的增加 使用和互動模式,通常涉及通過網際網路來提供動態易擴充套件且經常是虛擬化的資源。雲是網路 網際網路的一種比喻說法。過去在圖中往往用雲來表示電信網,後來也用來表示網際網路和底層基礎設施的抽象。雲服務指通過網路以按需 易擴充套件的方式獲得所需服務。這...