1樓：歐陽瘋
dropout可以認為是給模型引入雜訊,可以看成是一種資料增強的方式.
所以dropout特別適用於資料量少的情況下.
相反的,你的資料量特別大,反而不用開dropout,例如ALBERT
2樓：AI Cook
同意各樓上，要注重實際問題，小樣本訓練也有小樣本網路的設計思路，dropout也只是對網路並非對資料，若資料非常少且又不基於預訓練模型訓練，則過擬合情況會非常嚴重；在資料較少的情況下，可以考慮資料增強的方式，或者引入雜訊資料擴大訓練集。
Good Luck!
3樓：Leolsj
非常同意樓上的回答，哈哈
玄學問題直接用實驗結果說話 @nameoverflow
不同的資料，不同的網路結構，雖然資料量比較少，還是可以分一下驗證集、測試集，來驗證dropout。
4樓：車載面
還是得用實驗結果說話，因為你也沒說資料量小是多小。資料量小的話在某些場景中更容易過擬合，一般來講drop out有助於防止過擬合，試試無妨。
5樓：scott huang
值得一試。因為dropout可以看做一種做ensemble的方式。但是實際效果不能下結論，不知道你具體的業務是什麼，資料量具體多大，畢竟不同的問題對資料需求不一樣。
為什麼在資料量較小的時候，CPU 計算會快於 GPU？
道窮則變 1 假定資料已經載入到主機記憶體，CPU處理資料是沒有延遲的，Gpu則需要將資料從記憶體傳輸到視訊記憶體，這裡是有延遲的。2 CPU是針對處理複雜行為而優化的，gpu是針對處理簡單行為的大量並行執行而優化的 可以對比的是，CPU相當於一輛大卡車，可以自由裝載貨物，自由規劃道路 gpu相當於...
在資料庫中具體建立表結構的時候,需要建立外來鍵嗎
馮大輝 響馬等老司機在某些特定場合不用外來鍵是因為他們有能力把控業務層的設計和實現，用一定代價來換取對極端效能的追求。你同事在任何場合都不用外來鍵，只是因為智商不夠，學不會正經的關聯式資料庫。 itlr 絕大多數書庫並不需要強制引用一致性，所以絕大多數時候意義不大。當業務資料的引用一致性十分關鍵的時...
NBA 有哪些 作用不體現在資料上 的球員？
王尻 為什麼沒有人說雷霆的帕金斯？我覺得擋拆做牆的穩定性 身體面積都是資料無法體現的 現在NBA進攻所有戰術都從擋拆發起 而雷霆兩怪物根本不需要拆 只需要擋的嚴嚴實實的牆就行 而帕金斯可能是目前聯盟最好的牆了 他的3分5板資料根本無用但是作為牆確實太有用 對雷霆來說 陳柿餅 就目前的nba，我認為是...