機器學習(包括但不限於深度學習)和優化演算法中有哪些 fundamental trade off?

時間 2021-06-01 18:34:18

1樓:Ning Lee

最基本的兩個:

exploration exploitation trade off 探索與守成

計算複雜度 vs 模型效能

舉例來說:

增強學習中的典型問題,是探索新領域還是在舊的領域裡面取最好的;多臂賭博機問題;

LSTM中sample word的數量,顯然考慮更多的word能提公升效能;但是計算量的提公升也非常明顯

「天下沒有免費的誤餐」 是一點沒錯呀。

2樓:

做Optimization和Reinforcement Learning時的 exploration-exploitation trade-off (勘探和開採問題)

3樓:Guanqun Yang

另外不太為人所知的是RLM(Regulizarized Loss Minimization)中的fitting-stability tradeoff。

ERM和RLM是兩種不同的learning paradigm,後者在ERM基礎上加入了prior knowledge,通常是在object function中加入某種範數。

漢語表達中用 包括但不限於 還是 包括並不限於 更合適?

王贇 Maigo 到目前為止,我見過的所有使用例都是 包括但不限於 而且很明顯這個用法是從英語中翻譯過來的,英語原文是 including but not limited to 但 比 並 更忠實。 安小白 從使用頻率來看,包括但不限於是更常用的。從語法上來看,兩者都可以。從語氣上來看,但的強調語氣...

如何看待暴風 360等(包括但不限於)解除安裝不乾淨又流氓的軟體?

正如知乎上有個問題所說 數字 熊掌拉低了中國網際網路的體驗 PC端的各種流氓行為,甚至延伸到移動網際網路 我再加一句,X糧拉低了中國移動網際網路的體驗 開啟系統廣告的魔盒 張君逸 1.不可能卸不掉,一定是你卸的方式不對 2.解除安裝的方式知道不多,導致解除安裝不掉,童鞋,大概需要一些更專業的計算機知...

《爐石傳說》有哪些彩蛋(包括但不限於台詞)?

老珞餅咂 新更新的達拉然大劫案 薩滿如果通過亡語,把那個基礎的嘲諷圖騰拿回來,再放下去。就會觸發一條語音。我也以為這是條蛇。卧草難道不是蛇嗎? 當巫妖王裝備霜之哀傷時,出瓊斯後,巫妖王會說 可悲的嘗試。出克爾蘇加德時,巫妖王會說 克爾蘇加德,你站錯隊了。出辛達苟薩時,巫妖王會說 她是我的王牌!把她還...