1樓：小島上的黑桃六
1 epoch = batch_size * step ≥ sample_size
1 batch_size = samplesize / batch_num
1次 epoch 計算 1次Loss ，為後續迭代進行引數修正
1次 step 更新一次 params（對應計算 optimize function）
1個batch 代表 1次 step ，參與運算的樣本量
所以：epoch 對應一次完整模型迭代，step 對應一次引數更新，batch 對應單次樣本集
2樓：陸家嘴之豬
epoch是乙個單位。
乙個epoch表示學習中所有訓練資料均被使用過一次時的更新次數。比如，對於10000筆訓練資料，用大小為100筆資料的mini-batch進行學習時，重複隨機梯度下降法100次，所有的訓練資料就都被「看過」了。
此時，100次就是乙個epoch。
3樓：C加加程式設計思想
比如你有1000個資料，這個資料集可能太大了，全部跑一次再調參很慢，於是可以分成100個為乙個資料集，這樣有10份。
batch_size=100
這100個資料組成的資料集叫batch
每跑完乙個batch都要更新引數，這個過程叫乙個iterationepoch指的就是跑完這10個batch（10個iteration）的這個過程
4樓：菊叔
epochs被定義為向前和向後傳播中所有批次的單次訓練迭代。這意味著1個週期是整個輸入資料的單次向前和向後傳遞。簡單說，epochs指的就是訓練過程中資料將被「輪」多少次，就這樣。
舉個例子
訓練集有1000個樣本，batchsize=10，那麼：
訓練完整個樣本集需要：
100次iteration，1次epoch。
具體的計算公式為：
oneepoch= numbers ofiterations= N = 訓練樣本的數量/batch_size
5樓：
對於初學者來講，有幾個概念容易混淆：
（1）iteration：表示1次迭代（也叫training step），每次迭代更新1次網路結構的引數；
（2）batch-size：1次迭代所使用的樣本量；
（3）epoch：1個epoch表示過了1遍訓練集中的所有樣本。
值得注意的是，在深度學習領域中，常用帶mini-batch的隨機梯度下降演算法（Stochastic Gradient Descent, SGD）訓練深層結構，它有乙個好處就是並不需要遍歷全部的樣本，當資料量非常大時十分有效。此時，可根據實際問題來定義epoch，例如定義10000次迭代為1個epoch，若每次迭代的batch-size設為256，那麼1個epoch相當於過了2560000個訓練樣本。
6樓：陳華傑
num_epoch：指的是的訓練資料過幾遍。訓練資料從頭到尾過一遍為乙個epoch。
和epoch相關的概念還有step_num, batch_size。
step_num：指的是訓練的次數
batch_size：指的是每一次迭代的訓練，使用資料的個數。
7樓：OneDirection
訓練的時候一般採用stochastic gradient descent（SGD），一次迭代選取乙個batch進行update。乙個epoch的意思就是迭代次數*batch的數目和訓練資料的個數一樣，就是乙個epoch。
8樓：翻翻學姐
一次epoch=所有訓練資料forward+backward後更新引數的過程。
一次iteration=[batch size]個訓練資料forward+backward後更新引數過程。
另：一般是iteration譯成「迭代」
深度學習中 Batch Normalization為什麼效果好？
用相對座標取代絕對座標。使在單一神經元輸出產生群體性的平移 放縮後，網路還可以接近0成本地適應新分布。由於不同神經元有功能性分工的差異，這種分工又無法在初始化的時候預知，所以好的初始化只能保證同層的多神經元混合的分布和目標分布 解的分布 一致，不能保證單一神經元的輸出分布和目標分布一致。所以單一神經...
深度學習中的深度一詞怎麼理解？
按照 Bengio 的說法，3 層以下為淺層。反之你可以理解為深。Bengio,Y.Learning deep architectures for AI.Foundations and Trends in Machine Learning,2009.2 1 從字面意思理解，深度 是指一種空間關係。後...
深度學習中saturation是什麼意思？
泰克尼客 就是指梯度接近於0 例如sigmoid函式的值接近於0或1時，函式曲線平緩，梯度接近於0 的狀態，這會導致採用梯度下降法求最值時，速度偏緩。解決方法是更換損失函式和啟用函式的組合。例如cross entropy sigmoid，logloss softmax。其實質都是在數學層面上，這種組...