Keras的BN層能徹底解決過擬合問題嗎?

時間 2021-05-12 01:47:01

1樓:水中月

感覺問題本身就偏了,緩解過擬合應該只是BN的副產品,而且和Keras有啥關係。深度學習好於傳統方法,前提是資料量要大,神經網路提取的特徵才能好,有多少資料就只有多少智慧型,過擬合怕是沒法徹底解決,只能緩解,跨域太難了

2樓:秋陽裡皮

Batch Normalization在加速演算法收斂上發揮作用,不能起到防止過擬合作用,過擬合是資料和模型architecture的問題。

3樓:誠實小郎君

BN最初提出是為了讓收斂速度加快,因為每個mini batch資料分布都可能不一樣,梯度更新的方向會交替,不利於快速收斂。在使用BN之後,可以適當增大學習率,快速收斂,也有一定的正則的作用。當然,BN也有缺點,當batch size太小的時候(極端情況=1),會產生很大偏差。

解決過擬合是乙個很大的問題,可以從模型,資料,訓練方面入手,比如採用淺層模型,用更多的資料來訓練,cross validation,正則化,dropout等等,僅僅用BN是解決不了的。

由鼻炎引起的長期鼻塞既然很難用藥物徹底解決,那為何不用物理裝置解決?

抽動症研究 慢性鼻炎是由於未消化的蛋白質透過腸漏進入血液,產生食物性抗體IgG4,形成免疫複合物通過血液迴圈沉澱在鼻部毛細血管,引起慢性炎症 AIRPLOT艾譜德 不需要那麼激進的,日本其實一直以來都有解決方案的。日本株式會社全一世界早在2000年初就發明了AIRPLOT一種塗抹在窗戶玻璃上的光觸媒...

這乙個的受授動詞套用了很多層,可以一層層解釋一下嗎?

星星砂糖和科學面 變成最簡單的形式就是 其中 的使役態,讓 做 自謙語 索取,給我 做動作的人是我方,這很重要 其中動詞 為我做 可以做某事 允許他人做某事。加上 表示徵求對方同意,我可以做某事嗎。就是 的較尊敬用法而已 整體意思請允許我做某事。 讓 做 接受對方讓 做這個動作,即讓我做的意思 讓我...

我怎麼能徹底哄好我的女朋友?

快手夢紅 要哄好女朋友先要有乙個好的目標,再有乙個正確的出發點,讓女生感覺到有你的溫暖,讓他不害怕張她不受到傷害,不受到刺激,相信你一定能成功?愛夢紅! 李公尺 看來你的女朋友被寵壞了!女朋友要哄,但是不能沒框架,沒底線。你看起來有點跪舔,愛情姿態不對等,走到最後很少的。你是粗心,但不是不可原諒,並...