訓練集 驗證集和測試集

訓練集、驗證集和測試集這三個名詞在機器學習領域極其常見，但很多人並不是特別清楚，尤其是後兩個經常被人混用。

在有監督(supervise)的機器學習中，資料集常被分成2~3個，即：訓練集(train set)，驗證集(validation set)，測試集(test set)。

ripley, b.d（1996）在他的經典專著pattern recognition and neural networks中給出了這三個詞的定義。 

作用：估計模型

學習樣本資料集，通過匹配一些引數來建立乙個分類器。建立一種分類的方式，主要是用來訓練模型的。

作用：確定網路結構或者控制模型複雜程度的引數

對學習出來的模型，調整分類器的引數，如在神經網路中選擇隱藏單元數。驗證集還用來確定網路結構或者控制模型複雜程度的引數。

作用：檢驗最終選擇最優的模型的效能如何

主要是測試訓練好的模型的分辨能力（識別率等）

實際上，兩者的主要區別是：驗證集用於進一步確定模型中的超引數(例如正則項係數、ann中隱含層的節點個數等)而測試集只是用於評估模型的精確度(即泛化能力)！

舉個例子：假設建立乙個bp神經網路，對於隱含層的節點數目，我們並沒有很好的方法去確定。此時，一般將節點數設定為某一具體的值，通過訓練集訓練出相應的引數後，再由交叉驗證集去檢測該模型的誤差；

然後再改變節點數，重複上述過程，直到交叉驗證誤差最小。此時的節點數可以認為是最優節點數，即該節點數(這個引數)是通過交叉驗證集得到的。而測試集是在確定了所有引數之後，根據測試誤差來評判這個學

習模型的；也可以說是用來評估模型的泛化能力。所以，驗證集主要主要是用於模型的調參。

訓練集 驗證集和測試集

驗證集既不能通過直接將泛化誤差作為了解模型泛化能力的訊號，因為在部署環境和訓練模型之間往復，代價很高，也不能使用模型對訓練資料集的擬合程度來作為了解模型泛化能力的訊號，因為我們獲得的資料往往不乾淨。更好的方式就是將資料分割成兩部分 訓練集和測試集。我們可以使用訓練集的資料來訓練模型，然後用測試集上的...

訓練集 驗證集 測試集

訓練集loss 驗證集loss 測試集loss 乙個好的網路，二者的差距應該是很低的。但一般情況下因為網路不可避免地存在一定程度上的過擬合，所以肯定是train loss低於test lost，但如果低太多，就得考慮是過擬合的問題還是因為樣本的特徵空間不統一的問題。驗證集基本是在每個epoch完成後...

訓練集，驗證集，測試集

普通引數就是可以被梯度下降所更新的，也就是訓練集所更新的引數。超引數是指訓練開始之前設定的引數，不在梯度下降的更新範圍內，比如網路層數 網路節點數 迭代次數 學習率等等 1.訓練集 確定模型後，用於訓練普通引數 2.驗證集 交叉驗證集cv 驗證集在每個epoch訓練完成後，用來測試一下當前模型的準確...