代表的是迭代的次數，如果過少會欠擬合，反之過多會過擬合
epochs
當乙個完整的資料集通過了神經網路一次並且返回了一次，這個過程稱為乙個 epoch。
然而，當乙個 epoch 對於計算機而言太龐大的時候，就需要把它分成多個小塊。
為什麼要使用多於乙個 epoch？
我知道這剛開始聽起來會很奇怪，在神經網路中傳遞完整的資料集一次是不夠的，而且我們需要將完整的資料集在同樣的神經網路中傳遞多次。但是請記住，我們使用的是有限的資料集，並且我們使用乙個迭代過程即梯度下降，優化學習過程和圖示。因此僅僅更新權重一次或者說使用乙個 epoch 是不夠的。
隨著 epoch 數量增加，神經網路中的權重的更新次數也增加，曲線從欠擬合變得過擬合。
那麼，幾個 epoch 才是合適的呢？
不幸的是，這個問題並沒有正確的答案。對於不同的資料集，答案是不一樣的。但是資料的多樣性會影響合適的 epoch 的數量。比如，只有黑色的貓的資料集，以及有各種顏色的貓的資料集。
神經網路訓練
學習了bp神經網路演算法，剛開始最終要的一點不明白的就是前一層和後一層 這裡指的只有三層，輸入層，隱藏層，輸出層 的權重，其實神經網路演算法中，前一層的每乙個節點和後一層的每乙個節點都有連線權重，初始權重是隨機的。而更新權重是通過輸出層的值來反向更新的。基本過程如下 1.輸入第乙個訓練樣本 對應的就...
神經網路的訓練
既然我們希望網路的輸出盡可能的接近真正想要 的值。那麼就可以通過比較當前網路的 值和我們真正想要的目標值，再根據兩者的差異情況來更新每一層的權重矩陣 比如，如果網路的 值高了，就調整權重讓它 低一些，不斷調整，直到能夠 出目標值 因此就需要先定義 如何比較 值和目標值的差異 這便是損失函式或目標函式...
神經網路常見術語之 Batch與Epoch
batch大小是乙個超引數，用於定義在更新內部模型引數之前要處理的樣本數。將批處理視為迴圈迭代乙個或多個樣本並進行 在批處理結束時，將 與預期輸出變數進行比較，並計算誤差。從該錯誤中，更新演算法用於改進模型，例如沿誤差梯度向下移動。訓練資料集可以分為乙個或多個batch。當所有訓練樣本用於建立乙個b...