機器學習中，經常討論到的乙個話題就是泛化能力。泛化能力的強弱決定了模型的好壞，而影響泛化能力的則是模型的擬合問題。
機器學習的目的並不是為了對訓練集的做出正確的**，而是對沒有在訓練集中出現的資料進行正確的**。但是對訓練集之外的資料**的前提是，模型在訓練集上的表現很好，基本可以滿足大部分資料的**，這樣才會被用在訓練集之外的資料。而當模型對訓練集**的結果準確率很低時，說明模型的學習能力很弱，無法學習到資料中的一定「規律」，這樣模型就處於欠擬合狀態。欠擬合的問題解決起來比較簡單，較為困難的並且是大部分機器學習都會遇到的則是過擬合問題。欠擬合的解決方法比較容易，常用的方法有：
模型在訓練集上表現很好，而**除訓練集以外的資料時，表現卻不盡人意，這種問題十有**便是模型過擬合，意味著模型不僅學習了資料中的一定「規律」，還將各類雜訊、波動也學習了進去，相應的處理方法則比欠擬合複雜了許多：總結如下：（需要注意的是，降維並不能有效的抑制過擬合，它只是降低了特徵的維度，並沒有減少特徵的資訊。）
欠擬合：在訓練資料表現都很差，在未知資料上也是一樣。其中每一條解決方法拓展出來都很多，想要了解具體步驟的同學可自行搜尋，或者期待後續的更新 -_ - ~~~！過擬合：在訓練資料上表現較好，在未知資料上表現較差。
欠擬合與過擬合
在用機器學習搭建模型時，經常會碰到這樣一種情況，你的模型演算法在樣本資料中匹配的非常完美。但用新資料測試，發現模型結果和實際差距非常大。那麼恭喜你！你掉進了機器學習中常見的乙個大坑 過擬合。什麼是過擬合呢？機器學習本質上是通過建立資料模型，使其和現有資料相吻合，從而找到資料中內在的規律。如下面三張圖...
欠擬合與過擬合
一 1.欠擬合 訓練集上表現很差 這種情況在測試集上也不會好 高偏差 bias 解決辦法 選擇更複雜的網路 有正則項就減小正則項引數等。2.過擬合 訓練集上表現很好，但測試集上表現很差，高方差 variance 解決辦法 採用更多資料 如果有正則化就增加正則化引數，沒有就加上正則化 dropout等...
過擬合與欠擬合
過擬合與欠擬合 欠擬合 個人理解就是由於資料少 正則化太厲害 模型複雜度太簡單等原因，導致模型沒有學習到足夠的規律，準確率與模型可達到的準確率差距較大。但是模型在訓練集和測試集的曲線趨勢是正常收斂的。解決方法為有 增加特徵，尋找與標籤相關性較大的特徵，在保證特徵沒有共線性的前提下，增加特徵的數量 減...