新人,有個問題是為什麼不把深度學習網路整合起來,比如把幾個resnet整合在一起。望各位大佬指教!

時間 2021-05-05 18:53:45

1樓:RyeP

模型整合本身確實沒什麼創新點,但做預訓練模型知識融合,還是很有趣的。

Amalgamating Filtered Knowledge: Learning Task-customized Student from Multi-task Teachers

2樓:

當然可以,具體原因前排幾個都說了。

你甚至可以把各種任務的各種模型融合起來,做個大一統模型!

想想覺不覺得有點激動?

3樓:陳小小

可以這麼做。現在在刷一些資料集的時候,如果該任務不標明了只允許單模型測試,基本上榜單上靠前的方法都是很多模型整合的結果。除此之外,乙個模型也可以應用整合的思想,比如多尺度測試,或者一些測試階段的增強,都能提公升最終的效能。

但是這些操作在學術上大多數是沒什麼意義的,除非你能提出新的整合的方法。當然,很多模型自己內部就有整合的思想,比如resnet和densenet的短接,可以認為是模型整合,dropout也可以認為是模型整合。

學物理過程中,你有哪些問題是當時理解的比較膚淺,後來突然豁然開朗了?

做科研才知道,量子場論裡的Toy model有深刻的意義,跟WKB和相變問題有緊密聯絡。 康莊莊 嗯,數學物理方程分離變數法,涉及到特徵值和特徵函式系,名字容易讓人聯想到線性代數的矩陣的特徵值和特徵向量,當時實在不知道這兩者有什麼關係。直到大體上了解了泛函分析,才知道這兩者本來就是同乙個東西。都是線...

為什麼會有人拼命diss古風歌曲呢,問題是也跟他沒有利益關係?

單名乙個木 我覺得一部分原因是現在很多歌曲都莫名其妙被打上了古風的標籤,明明算不上古風,歌詞和流行不同,和古風沾一點邊,就古風歌了。之前李袁杰的 離人愁 不就是典型嗎。什麼狗屁不通的邏輯詞再加上抄來的曲子,突然火了,然後他就變成古風歌手了?不好意思這個我們古風圈不認。原來古風圈小眾而且佳作也多,但是...

為什麼說塞爾達傳說 時之笛解決視角問題是劃時代的進步,我卻感受不到?

喵雙籽 我沒啥研究,隨便碎碎念一下吧。怪物獵人記得是X之後也有鎖定視角了,我很喜歡。之前控制視角挺麻煩的,尤其是PSP版那個畸形的 C手 乃至於 E手 雖然有些遺老還以此為榮 生化危機我不敢玩沒玩過,古墓麗影以前只玩過一代忘了是哪代了,是有鎖定的,鎖定敵人後能用出非常炫酷的 在敵人衝過來時凌空跳起在...