1樓：勤而勉之
你這問題內容有問題。
對於一般的深度學習問題，我們希望時的loss能夠越小越好。但是由於資料中包含有雜訊，所以不能夠完全擬合，否則就會使得學到的模型不能很好的用於測試集。但是對於一些特殊資料，資料中不包含雜訊，比如從微分方程中獲取到的資料，這個時候可以想辦法讓訓練loss降低至0[1]，這時沒有過擬合，對於測試集才有意義。
之所以提這篇能夠讓訓練loss降低至0的文章，是對於某些不考慮資料loss的文章，可以用一下方法實現全連線網路的訓練loss為0，文中通過在迭代中保持loss=0的必要條件，迭代分數階導數來實現loss為0.
Pu Y F , Wang J . Fractional-order Backpropagation Neural Networks: Modified Fractional-order Steepest Descent Method for Family of Backpropagation Neural Networks[J].
2019.
2樓：尹瑞平
依照我的理解，過擬合在很多模型中是不可避免的，例如在一些很稀疏的資料集上，有時候引數的個數都已經超過了樣本的數量，這樣訓練出來的模型，其實連你自己都不清楚到底有沒有過擬合，況且在高維空間中的形狀又是不可估計的。
乙個模型的好壞只在於它在測試集上的表現如何，越是複雜的網路，相對資料量不足的現象就會越嚴重。所以，只要能夠正確看待這個現象就好了，不用太過糾結。
3樓：劉新鋒
若你的樣本包括了所有的可能性，則過擬合能處理所有的輸入。但是事實上這是做不到的。過擬合就是精確配準，輸入不過不在你的訓練樣本範圍中，就得不出正確結果。
4樓：Alan Huang
是不是貶義的，我覺得還是得看最終效果。 如果我過擬合了整個世界，在測試集上效果非常好，何樂而不為？ 如果我過擬合了訓練集，在測試集上表現缺很糟糕，此時過擬合就是貶義了。
另外，在過去的時候資料集比較小，訓練過擬合之後，測試集結果往往很糟糕。 深度學習一般在相對比較大的資料集上訓練，此時即使過擬合，測試效果也可能不錯，例如ImageNet這種，overfit the whole world 並不是壞事。
5樓：蓋文丁
不同的人提到過擬合/overfitting的時候可能會有不同的含義：
1. training error比validation error小；
2. training error還在降，但是validation error已經開始公升了。
對於第一種overfitting，只要validation error還在降，是不用太在意的。而第二種overfitting，在任何情況都應該是不好的。
在deep learning裡面，因為optimization往往是很大的問題，也就是說training error根本降不下來。或者說根本不會降到validation error會上公升的地步。也就是說第二種overfitting很少出現。
絕大部分的「overfitting」都是比較無關緊要的第一種。
6樓：
在淺層模型中，乙個隱含前提是訓練樣本數量有限，所以，過分擬合訓練樣本，會偏離資料真實分布；
在深度學習中，乙個隱含前提是訓練樣本數量很大，極端情況，訓練樣本即為資料的全集，這種情況下，過擬合，實際上已經覆蓋了所有實際資料的情況，自然不是貶義。
強化學習會出現過擬合的情況嗎？如果會，一般那種情況可以判定為過擬合呢？
十年鑄一水果刀 個人認為深度強化學習中是可能出現過擬合的，深度強化學習的主要思想還是把深度學習的分類思想放在強化學習上，使agent在各種情況下 environment 可以依據之前的類似情況作出反饋，所以訓練過程和深度學習相似，個人認為深度強化學習的過擬合有兩種情況造成，乙個是訓練環境不夠完整，另...
家裡都是農民，條件一般，自己學習也一般，但喜歡學英語，想出國留學，可以嗎？
知烏朱 喜歡學英語和出國留學是兩個事情，出國留學很苦而且費用很高，身邊的大家都是一邊讀書一邊兼職，空了還要連夜趕作業，所以留學生是抑鬱症的高發群體！如果你真的想好了就先去讀個雅思吧！但其實說實話沒必要，如果出國留學可能會給家裡造成負擔！ 莫凡 不是很建議出國。不知道樓主條件一般算是什麼樣的條件，出國...
為什麼讀研究生的一般都是高中學習成績一般或者較差的。而高中時學習成績較好的卻不讀研究生了？
越長大越嚴謹 感覺你說的就是我，哈哈哈。高中倒數第一，現在馬上要研究生畢業了。我感覺如果太把一件東西當成正經事去幹，你會失去對它的興趣。例如，我小時候練桌球的，一直打比賽，等我五六年級我意識到我好像不喜歡打桌球了，因為都是老師或者教練在要求你怎麼做，不能隨心所欲的打，感覺被限制住了，之後我就很少參加...