1樓：採石工
softmax 函式更接近於 argmax 函式而不是 max 函式. soft 這個字首源於 softmax 函式是連續可微的. argmax 函式的結果可以表示為乙個 one-hot 向量, 它不是連續和可微的 (注:
argmax 的一般實現是返回最大值所在的索引, 但這個索引可以轉化為 one-hot 向量). softmax 函式提供了 argmax 的軟化版本. max 函式相應的軟化版本可以記為 (注:
max 函式還可以表示為 , 如果argmax函式返回的是 one-hot 向量的話). 最好是把 softmax 函式稱為softargmax, 但當前名稱已經是乙個根深蒂固的習慣了.
摘自Ian Goodfellow等人的《深度學習》, 括號內的內容是答主自己加的.
2樓：昆德
看了樓上的答案後懂了，我自答一下
softmax函式更應該叫softargmax，因為argmax函式的輸出是乙個one-hot向量，只有乙個元素為1，其餘元素全是0，但是argmax函式不可導。
對於乙個訓練好的softmax而言，給乙個輸入x，輸出也是乙個向量，其中乙個元素很接近於1，其餘元素很接近於0，並且softmax是可導的，相當於argmax的軟化版本。
程式設計的函式和數學的函式為什麼都叫函式？
哲學嘉 本質是一樣的，電腦程式的函式概念基於數學上的函式，只不過加了一些操作在裡面，所以變得跟數學上的函式有點不一樣 計算機中的函式包含輸入 輸出 資料處理還有操作 比如輸出到螢幕 而數學上的函式只關注數。在數學上，輸入 資料處理 輸出，這三者缺少任何乙個都是沒有意義的，而在電腦程式裡，就算你輸入 ...
什麼叫函式思想？
函式思想是指用函式的概念和性質去分析問題 轉化問題和解決問題的思維策略。函式思想體現了 在解決 數學型 問題中的一種思維策略。具體來說，函式描述了自然界中數量之間的關係，函式思想通過提出問題的數學特徵，建立函式關係型的數學模型，從而進行研究。它體現了 聯絡和變化 的辯證唯物主義觀點。一般地，函式思想...
softmax演算法為什麼採用softmax function作為每乙個類別的概率？
樓上諸位答主都高屋建瓴地回答了問題。我來補充乙個直觀的解釋。目標 從回歸模型出發，建立乙個多分類的分類器。子目標 1 把我們的要求稍微提高一點，要求模型輸出乙個概率分布，而不是僅僅乙個label。這樣將有利於訓練。子目標 2 假設總共有類，那麼概率分布可以用個實數描述，它們非負，且和為1。而我們手頭...