1樓：曲直自知
這涉及到兩個問題，CNN的平移不變性和訓練集測試集的資料分布。
來，首先來講一下機器學習的基本假設，訓練集和測試集同分布，除了一些難樣本挖掘等特定任務，訓練和測試集要求有相同的分布，回過頭來看你這個問題。訓練級僅僅佔據前500個維度，而測試集僅佔後500個維度，分布顯著地不同。
乙個向量作為輸入，訓練集只有前五百個維度有值，測試集只有後五百個有值，這不是瞎猜是什麼？
解決方法的話你可以嘗試把訓練集和測試集攪在一起然後再隨機取一半，nn的我估計還是玄，cnn也許會有提公升。
其實還有一種方法是資料增廣......唔其實更好理解也更簡單。就是手動對訓練集做一些操作比如手動平移什麼的，但題主既然不想加先驗就幹訓的話那就忽略這個吧。
下乙個是cnn，如果不願意做資料方面的操作，也可以白嫖一下CNN的平移不變性。但是保持平移不變性的前提是無padding+global pooling，題主的global pooling前為啥要加個permute這個我是沒看懂......建議去掉那個再試試。
multi task深度神經網路如何實現，優化？
知識達人 多工學習有很多形式，如聯合學習 Joint Learning 自主學習 Learning to Learn 借助輔助任務學習 Learning with Auxiliary Tasks 等，這些只是其中一些別名。概括來講，一旦發現正在優化多於乙個的目標函式，你就可以通過多工學習來有效求解 ...
卷積神經網路的特徵是如何學習的？
Mario 你好，剛剛答辯完。老師也提了同樣的問題，卷積是如何提取特徵的？答 從傳統影象特徵提取方法來看，卷積核其實就是很多個不同的濾波器，傳統的濾波器是人工設定的，用來提取指定的特徵，比如gabor，canny等。而卷積神經網路中的卷積核是網路隨機初始化之後再通過梯度下降演算法來進行更新，根據你指...
應用神經網路進行分類，輸入特徵屬性之間強關聯對結果有影響嗎？
愛碎碎碎碎念 講道理，有時候我們覺得應該是這樣的，但是實驗結果好像並不是我們預期的那樣，所以你要不先做實驗再分析一下結果呢。畢竟樣本不一定不一樣，處理方法不一定一樣，引數不一定一樣，背景不一樣 扁豆燜面1.0 如果知道已經強相關了，最好處理一下，有兩個好處 一是可以降低模型的負擔，畢竟需要計算的引數...