機器學習可以學習調參嗎?

時間 2021-05-11 23:51:13

1樓:

Machine Learning的問題在實際操作中可以看作是調參問題,那麼能不能用機器學習來代替調參是乙個很自然的想法...於是就有了Meta Learning這個研究方向

2樓:王博文

題主的問題,我也想過,然後寫了下面這篇文章:

王博文:什麼時候機器學習不再需要人工調參了?

雖然沒本題下面的其他回答那麼高大上,但相對簡明易懂且是最接近答案的答案,題主可以參考看看

3樓:黃有

"Taking the Human Out of the Loop: A Review of Bayesian Optimization"

IEEE Xplore Full-Text PDF:

最近在讀的用貝葉斯優化自動調參的

4樓:YukiRain

曾經用learning to learn的思想嘗試過水平集方法的自動調參,算是縮水規模的learning to learn。搞過水平集的人應該知道,這個演算法雖然各方面都不錯,但是對調參還是很敏感的,不同類別的影象得換不同的引數。

於是在能量函式裡加了一堆正則項,每個正則項都有乙個係數,把分割的精度減去乙個常數當做reward來訓練。

後來發現,reinforcement learning這領域坑還真是多,首先這個調參的引數空間是個連續的空間,deepmind做過一些這方面的工作。直接把方法搬過來試試看,網路一開始壓根就不收斂。然後又normalize這個reward,發現好一些了,但還是很不穩定,網路經常給一些很奇怪的輸出,比如所有的引數都是0什麼的。

上網搜,發現無論國內還是國外,大家普遍都在論壇裡吐槽reinforcement learning文章復現不出來……

後來我就出坑了……

5樓:

往大了說就是learning to learn,九十年代就有人提出來了。最近比較火的就是meta learning,但具體做法不是原題目那麼去做,可以去了解一下。完全自動的話就是google的automl了(包括模型選擇)。

6樓:Roison An

這樣下去的話,理論上可以使用機器學習學習調參以用來機器學習學習調參,使用機器學習學習調參以用來機器學習學習調參以用來機器學習學習調參。。無限迴圈,這種層級越高效果越好。。哎呀這不是神經網路麼,我是不是發明了新的演算法思想。。

7樓:Ghost Fan

我記得當年DeepMind 乙個文章好像是做這個的

[1606.04474] Learning to learn by gradient descent by gradient descent

參考下吧

8樓:熊辰炎

"Learning to learn by gradient descent by gradient descent"

[1606.04474] Learning to learn by gradient descent by gradient descent

deepmind/learning-to-learn'deepmind/learning-to-learn'

9樓:

恭喜你想到了樸素的meta-learning的思想

[1703.03400] Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks

所謂的機器學習,機器為什麼可以學習?

桂能 1.所謂學習,就是讓機器像人一樣去做事 2.這裡的做事,需要形式化一下,就是我們首先要定義乙個任務,比如說0 1分類,那麼任務描述起來就是對於乙個東西 樣例 x我們給他乙個標記0或者1。這就是最簡單的任務了,所以如果形式化就是,我們要找乙個對映f x y 其中y屬於 0,1 3.那麼現在所謂機...

深度學習可以解決經典機器學習演算法問題嗎,比如最簡單的線性回歸可以用機器學習解決嗎

你對深度學習是有什麼誤解嗎?你以為深度學習是乙個神話嗎,還是乙個咒語嗎?深度學習是什麼?不就是乙個尋找模型的引數的方法和過程嗎?線性回歸是什麼?不就是乙個模型嗎?所以,為什麼不可以呢?太可以了。 夜星辰 你這問題問的有點奇怪,先是問深度學習可以解決經典機器學習演算法問題嗎又說線性回歸可以用機器學習解...

學習大資料需要學習機器學習嗎

Hong 個人經驗 如果你的職業規劃明確 想做big data engineer,那大概率你用不上機器學習的知識,就是遇上了扔給Data Scientist就好 而相反的如果你想做大資料分析 Data Scientist big data analysts 機器學習就是必須的了 而且你首先應該是個及...