1樓：灰乎乎鈕扣
一直在追求納什平衡，最新的wgan,wgan_gp,wgan_div有進展。
但是在大模型上依舊不行。
但是會靠近納什平衡，使用梯度懲罰還是對訓練有效的。
我加入了以後，loss曲線有轉折點，且下降後在一定區間內穩定。
但對於結果沒啥用。
一般來說穩定訓練的方法就那幾種:標籤翻轉，加入雜訊，加入正則化。。。
具體的模型還要具體分析，看看優化器，卷積核大小，池化層，各個loss的設定。
2樓：交大第一carry
我最近觀察nvidia的一些專案 https://github.com/NVlabs/DG-Net發現他們使用到了乙個非常簡單的技巧，引入乙個正則項：
github.com/NVlabs/DG-Net/blob/master/networks.py#L121這個正則項要求Discriminator在真實樣本上沒有grad。
通俗理解，如果G生成的足夠好，很像真實樣本，我們就不會懲罰他了。
那實際實踐的時候，我們不知道G什麼時候生成的好。
所以這個reg換了乙個角度，對於真實樣本，我們Dis在任何情況下也應該不要懲罰真實樣本（即有grad）。
3樓：
這個問題更多和資料本身的複雜度有關係吧，不同的資料結構的複雜度，GAN的訓練複雜度和困難程度也不一樣，不會有題目所說的這種統一的答案，而是要依賴於問題。
從某個角度說，人類認知世界的模型就是乙個GAN，這個GAN的訓練現在可以在當前DL的方法框架下完成麼？恐怕很難，因為問題本身複雜度太高了。
是不是所謂穩定的工作才更好些？
奇奇夏h 這個主要是看個人 看每個人的個性，品質，毅力，想法和經歷，時機，家庭條件，社會關係來，如果乙個人比較懦弱，不夠勇敢，本身能力沒那麼足，或者是已經到了一定的年紀，家庭沒什麼條件關係，平時人比較溫和，沒那麼有激情的話，那還是適合穩定的體制內工作，如果乙個人還年輕，有激情，愛搞事情，有目標，或者...
錢是不是婚姻穩定的必要條件？
小妖 我覺得在不同階段是有不同，在談婚姻時 金錢是必要條件，現實生活中麵包和愛情可以說百分百選擇麵包，但是在不憂溫飽，吃飽了麵包又需要選擇愛情，就是為什麼會有那麼多婚外情的原因。 千里 是。沒有錢的二人世界也許還能志同道合，安貧樂道，自信清Fluence月勝過柴公尺油鹽。但是當孩子來臨，父母病老，才...
抽菸是不是解壓的好方法？
Andy.Kalya 我吸菸二十年，我想我比其他人更有發言權！吸菸會讓原本平靜的內心變得更多噪音，讓焦慮感加重，我親自實驗多次的體會。加重後停止吸菸的時候會覺得輕鬆。就好比你很累，想獲得輕鬆感，於是背一會兒更沉重的東西，然後當你放下揹著的沉重東西，你覺得好像輕鬆了很多。吸菸的原理與此類似，是一種矯枉...