機器學習 當你的模型不夠好時,有什麼改進的方法?

時間 2021-06-07 17:11:52

1樓:豆花泡饃

兩種思路。

一是優化模型自身。引數調優,特徵選擇。都有相應的演算法可以使用。引數調優可以使用交叉驗證、網格搜尋等方法。

二是優化資料特徵。第一種方法優化模型本身往往取得的提公升很有限,一套好的特徵才是模型效果的有力保證。特徵需要做到豐富、數值型別、值域相當等。

2樓:nbe

本人最近剛學資料分析導論(機器學習),說錯的地方,請大佬指教。

模型的擬合度不好:

原因之一:

資料天然無規律。對回歸問題,mse的均值不小於σ^2(模型為y=f(X)+σ)。對分類問題,平均正確率不可能大於p(模型為max P(y|X)=p)。

至於如何判斷模型是否已經達到目的問題的極限,我才疏學淺,就不回答了。

原因之二:

模型不給力。這可能是因為模型不合適或者沒調好引數。模型不合適包括用非線性模型去擬合乙個線性關係等。

模型調參我覺得值得一提,很多時候模型表現不好是因為沒調好參。我們都知道模型表現是有bias-variance tradeoff,就是說增大模型的靈活性(flexibility)會減少偏差(bias)增大模型波動(variance),bias大或variance大都會使模型的表現變差。調參就是調模型的靈活性,一般的模型都有引數可以調flexibility,比如lasso,ridge的λ,Decision tree的葉節點數等,gbdt的樹的數目等。

一般來說,fine tune之後表現會好不少。調參的方法一般是grid search配合CV。

下面是我的個人經驗,資料預處理有奇效,比如PCA。可以嘗試一下。

3樓:TripleLift

額,分兩個情況,如果你是模型的問題,你可以試試用一些公認效果較好的boosting模型,如xgb,lgb等等。如果效果不錯,那就是單模型有毒,需要仔細看看你這些演算法是不是適合這些資料。如果效果也是很差,跳到第二種情況。

第二種情況,那就只能說你的特徵太辣雞了,這個時候就要考慮這個問題的場景來挖掘特徵,成了資料探勘了。

不過我感覺是第二種情況可能性極大。。。

如何在沒有錢學習不夠好的情況下出國留學?

奇佳諮詢 我當年就沒有錢去了法國,先去讀了語言,然後進了法國的公立大學,法國公立大學不需要學費,三十需要學習法語,所以你沒什麼錢可以考慮法國的,你需要開始學習法語,爭取把法語過了B2 能夠達到B2 你就可以申請免費的綜合性公立大學,你可以選擇小城市,因為巴黎和里昂的生活費,主要是指租房子比較貴,每年...

平時自己學習挺努力的,但總覺得不夠好,有什麼學習的方法嗎?

Angela 我們班也有好幾位這樣的同學,每天都在默默努力,很安靜的坐在角落學習,很刻苦,可成績上不去,也不知道什麼原因,其實他們也很累。或許你跟他們是一樣的叭,我個人認為學習方法這個本就是很矛盾的。每個人有自己的學習方法,有適用於你自己的,你完成好該做的就足夠了,完成好家庭作業,認真對待每一次課堂...

乙個不談戀愛,只想學習 可能學的也不夠好 的女大學生在你們眼裡是什麼樣子的?

刀劍如夢 有兩種情況。第一種是談過戀愛,知道自己最想要什麼,所以心無旁騖去追尋當下最重要的東西,那樣的話很酷。因為其實沒有必要盲目跟隨周圍人談戀愛的步伐,尊重個體的成長程序,該來的都會來的。第二種是想戀愛但是一直沒啥行動,屬於 自殺式單身 範疇。明明想要邁出第一步,但是因為過去 現在沉迷於學習,缺失...