如何通過拉伸壓縮features來加速梯度下降的訓練進度?

時間 2021-06-01 07:15:59

1樓:軒轅十四

瀉藥!所謂的「拉伸壓縮features」,其實就是對輸入(或每一層)特徵做歸一化,就可以將我們的損失函式從「橢圓」變成「圓形」,從而加快收斂速度。歸一化操作主要有「min-max歸一化」和「減均值除方差歸一化」。

2樓:雷天琪

特徵拉伸壓縮之後,梯度下降會更快的進行收斂 ,原因如下:

圖中的「橢圓」可以看成等loss線,這樣,在進行梯度下降的時候,梯度的方向就會偏離最小值的方向,走很多彎路。當x,y值的範圍大小不一樣的時候,就會形成乙個橢圓,這個橢圓的梯度方向就會偏離最優化方向(或者說,相對於「圓」更偏離最優化方向)

如果歸一化了,那麼目標函式就「圓」了:

每一步梯度的方向都基本指向最小值,可以大踏步地前進。

3樓:深度碎片

吳恩達與通過拉伸壓縮features來加速梯度下降的訓練進度

原課程:Gradient Descent in Practice I - Feature Scaling

筆記:如何通過拉伸壓縮features來加速梯度下降的訓練進度關於原因,吳恩達在深度學習課程中有詳盡描述不得不做拉伸壓縮的原因2.6 動量梯度下降法 課程

筆記2.7 RMSprop 課程

筆記1筆記2

如何通過聲音簡單檢測壓縮機質量?

GMCC壓縮機 我們首先來分辨一下哪些是正常的響聲,哪些是異常的響聲 1 正常的響聲 鐺鐺聲 執行中的壓縮機在停止時,會產生這種鐺鐺聲,有時響一下,有時響兩下,響聲較大。這種響聲中來自壓縮機內部,其原因是壓縮機內有三根彈簧吊著汽缸和定子,用來防震,當壓縮機停止工作時,會產生一種阻力,由於彈簧的作用,...

一段材料拉伸 壓縮的難易程度取決於什麼?

太陽島 是剛度,剛度指的就是材料的變形難易程度,剛度越好,越不易變形。表徵剛度大小的參量是彈性模量。任何物體都可以被拉伸,只是拉伸比例的區別,骨頭很脆,只能被拉伸幾個甚至零點幾個百分點就會斷裂。 宮非 2018 10 20 拉伸特性是指材料在特定的尺寸和形狀 啞玲型試片 下,受到拉力作用時,抵抗此拉...

GCN如何處理沒有feature的graph的node分類問題?

Houye 沒有feature就造一些feature onehot編碼.參考 18ICLR Graph2Gauss DEEP GAUSSIAN EMBEDDING OF GRAPHS UNSUPERVISED INDUCTIVE LEARNING VIA RANKING 節點原始圖特徵,如degre...