CNN在設計模型時如何高效地整理不同版本的模型結構?

時間 2021-06-03 19:14:35

1樓:旅行大喵

如果你用的是TensorFlow的話,可以在中間寫一些用於TensorBoard的輸出,然後每個模型放乙個資料夾,然後用TensorBoard來看這些資料夾的損失函式和Precision,AUC/ROC等等。另外TensorBoard可以顯示TensorFlow的模型結構,於是順便也把網路結構儲存下來了。

2樓:深度學習雜談

cnn的訓練和應用已經很成熟了。一般的識別,用大公司放出的pre-trained版本就足夠了,裡面已經包含了足夠的基礎特徵,需要做的是用你自己的樣本在它的基礎上訓練。這種增量的模式對於影象處理尤其好用,fb他們會把大的網路分層訓練好,然後給別的部門使用(lekun說過)。

自己調引數訓練有倆問題:樣本量大的話,會很慢。樣本量小,過擬合。

很多結構都是有數學理論支撐的,並不是像蓋房子一樣的物理結構,可以任意改引數。

3樓:

感覺並沒有什麼固定的規律,還是要根據不同的場景不斷嘗試迭代。

次數多了,自己碰到乙個新的場景,會慢慢有自己的想法和直覺。

hint: 對各種流行的模型,要嘗試從作者角度去理解這個模型的結構為什麼是這樣的。

4樓:

我是網路定義統一放在乙個nets.py檔案裡,每個函式定義乙個網路,統一好輸入輸出的格式,採用多行注釋說明結構,這樣IDE能自動解析。

用的時候在訓練檔案裡from nets import xx as mynet,這樣換網路只需要在import的地方更改。而且可以通過eval()函式來自動化的跑不同網路結構。

5樓:whale

簡單回答一下我的做法,供參考。我一般是把模型和訓練檔案分開來。看模型結構,如果模型結果大部分相似,只是小細節不同的話,可以把相同的部分寫成基類,然後模型繼承這個類。

舉個例子:比如要在res後面修改,可以把res作為基類,然後把自己的模型寫成類繼承res再增加自己的層,訓練時,在訓練檔案裡匯入這個類就行了。

面板資料回歸時,在確定固定效應模型後,如何選擇個體固定效應或時間固定效應呢?

連玉君 在金融經濟學研究中,固定效應的應用非常普遍,但是仍有許多研究者對固定效應的理解有限。deHaan 2021 主要解釋了以下問題 固定效應如何消除遺漏變數偏誤和影響標準誤差 固定效應回歸中常見的陷阱。特別地,deHaan 2021 主要關注於那些 X 具有非常小或沒有變動的固定效應組 例如,公...

在網際網路時代,學習時如何做筆記更高效高能?

雲悠水澈 以前看過乙個國外大學的小規模試驗,結論是手寫比電腦筆記記憶 理解效果好10 20 主要原因是電腦還沒有習慣到可以使用時無需分心的地步,需要看螢幕,還要手打,比手寫費心,手寫可以更多用心與內容。但這只是乙個短時效果單純的測試比較,並不能評估長遠的效益和區別不同用法。手寫有更專注內容 簡捷靈活...

天文學家在使用地心模型時是如何解釋月相變化的?

黃誠贇 日心說和地心說在解釋月相這一現象時沒有什麼差異 1.月球不發光,靠反射太Sunny。2.月球 地球 太陽之間的不同相位角而產生相對應的月相。座標系的選取不影響對月相成因的解釋,在描述月相形成這個問題上,兩個模型是等價的。如果題主去請教古希臘的天文學家,他們答案和今天的解釋是一致的 月亮不會發...