「高階最小熵的概率分布」這句話如何理解?

時間 2021-06-08 23:07:02

1樓:肖wenda

首先要把高階最小熵分開來理解

首先是熵,熵是用來描述乙個系統的混亂程度,換而言之如果乙個隨機事件它的可能性越多,那麼它的熵越大。(扔乙個6面的骰子和乙個8面骰子,8面骰子的熵大)

然後是最小熵,這裡的最小應該是指最保守的情況。

然後是「高階」最小熵,這裡的「高階」翻譯的個人認為容易讓人迷惑,這裡英文是high min-entropy字面上來說就是很高的最小熵。 用大白話來說就是有非常多可能性,很混亂....

那麼r選自乙個高階最小熵的概率分布,就是讓r這個隨機變數是通過乙個即使在「最保守」的情況下也有「很多」可能性,高度混亂,高度隨機的系統中選取。比如r的值由乙個2^256面的骰子決定,這個2^256面骰子就是乙個有「很高的最小熵」的概率分布。

其實這裡對於這些學術詞彙不需要特別了解,這裡作者想表述的是r必須是來自乙個完善的隨機系統。因為有很多系統看似很隨機其實不是。比如人們在選擇密碼的時候,這裡看似有很多的可能性,外人不可能猜測到。

但是人在選擇密碼的時候總是會選擇和自己相關的,容易記憶的單詞作為密碼,這就讓密碼被破解的概率提高很多,它的最小熵很低。

以上是個人的理解,如果有不正確的地方,請大家指正。

high min-entropy? r/crypto

2樓:張三

搜尋了一下,原文說的應該是high min-entropy. 考慮乙個離散概率分布,最小熵(min-entropy)是 ,其中 是所有情況中的最大值。

high min-entropy就是讓最小熵比較大。直觀來看就是分布比較均勻。

如果理解不對望指正~

如何嚴格證明softmax分布的熵隨溫度係數的公升高而增大?

胡一鳴 考慮具有 個能級的系統,其玻爾茲曼分布的配分函式 作為玻爾茲曼分布的歸一化係數 為 其中 是玻爾茲曼常數,是溫度,是能級。則熵可以寫為 容易驗證 其中 是不同能級出現的概率,也就是玻爾茲曼分布的分布列,也就是不同的值所對應的softmax的函式值。用熵對溫度求導 現在就來計算這個二階導數。等...

抽菸等於花錢提高得癌的概率,這句話你怎麼看?

大雪無痕 抽菸的本質跟抽鴉片沒什麼區別,就是毒癮,只不過死的比抽鴉片慢很多而已,去問乙個抽鴉片的人為啥要抽是沒有意義的,抽菸的人很反感這個結論,因為他們不願意承認自己是吸毒者 玳霓的帥爸爸 抽菸有害身體健康毋庸置疑 不論是不是自己買的煙 況且菸民抽的煙基本是自己掏錢買的 所以說的沒錯啊 儘管我抽菸,...

如何理解孟子的這句話?

吾性自足不假外求 求仁得仁 是求有益於得,求在我者也 求之不得 是求無益於得,求在外者也 仁義禮智,吾性自足,不假外求。名利貨色,身外之物,得失有命。 CEOER 本身之內的東西你想要就會有辦法做得到,你捨棄就會失去。本身之外的很多東西,你的努力與捨棄於事也是有益,但不是必得與必失的。說的是事務得失...