訓練集loss < 驗證集loss < 測試集loss
乙個好的網路，二者的差距應該是很低的。但一般情況下因為網路不可避免地存在一定程度上的過擬合，所以肯定是train_loss低於test_lost，但如果低太多，就得考慮是過擬合的問題還是因為樣本的特徵空間不統一的問題。
驗證集基本是在每個epoch完成後，用來測試一下當前模型的準確率。
對於乙個模型來說，其引數可以分為普通引數和超引數。普通引數就是可以被梯度下降所更新的，也就是訓練集所更新的引數。另外，還有超引數的概念，比如網路層數、網路節點數、迭代次數、學習率等等，這些引數不在梯度下降的更新範圍內。儘管現在已經有一些演算法可以用來搜尋模型的超引數，但多數情況下我們還是自己人工根據驗證集來調。
從狹義來講，驗證集沒有參與梯度下降的過程，也就是說是沒有經過訓練的；但從廣義上來看，驗證集卻參與了乙個「人工調參」的過程，我們根據驗證集的結果調節了迭代數、調節了學習率等等，使得結果在驗證集上最優。
驗證集是一定需要的；
如果驗證集具有足夠泛化代表性，是不需要再整出什麼測試集的；
訓練集，驗證集，測試集
普通引數就是可以被梯度下降所更新的，也就是訓練集所更新的引數。超引數是指訓練開始之前設定的引數，不在梯度下降的更新範圍內，比如網路層數 網路節點數 迭代次數 學習率等等 1.訓練集 確定模型後，用於訓練普通引數 2.驗證集 交叉驗證集cv 驗證集在每個epoch訓練完成後，用來測試一下當前模型的準確...
訓練集 測試集 驗證集
訓練集 用來訓練和擬合模型。驗證集 當通過訓練集訓練出多個模型後，使用驗證集資料糾偏或比較 測試集 模型泛化能力的考量。泛化 對未知資料的 能力 from sklearn.model selection import train test split import numpy as np from ...
訓練集 驗證集 測試集
用途 資料集train 訓練 訓練集validation test 驗證 驗證集test evaluate 測試 評估 測試集現在測試集和驗證集分的都不太清楚，每個人叫法不同，驗證集通常可以從測試集中選出一小部分。用python劃分資料集 import os path o rgb list fold...