在模型中：
當模型複雜度過低時，偏差則會比較大，訓練出來的模型會欠擬合，因而需要提高模型複雜度來降低模型偏差；
當模型複雜度過高時，方差則會較大，訓練的模型會過擬合，因而需要降低模型複雜度來降低偏差。
因此，模型複雜度的選擇是乙個十分糾結的問題，該問題被稱為「方差-偏差困境」。（如下圖所示）
形象地理解可以舉個這麼例子：
考試前刷題，如果刷得太多了，考試時做題會很死板，思維被侷限了；但如果刷的太少了，你在考試時會因為沒能了解足夠多的題型而失利。如何權衡好刷題數目就是個學問。
偏差與方差學習筆記
我們都知道，泛化誤差可以分解為雜訊，偏差和方差，即泛化誤差是由雜訊，偏差和方差共同決定的，但是為什麼是由他們三個決定的，這裡做乙個比較詳細的說明。首先，我們先做幾個符號的說明 yd 測試樣本 x 在資料集中的標記 y 測試樣本 x 的真實標記 f x d 訓練集d上學得模型 f 在 x上的 輸出 那...
細化深度學習 模型評價之方差 偏差
細化深度學習這個系列主要是想總結一些深度學習常用的比較基礎的方法及其原理。補充自己深度學習知識體系中的細節部分。在看 時既能縱觀整體結構，又能捕捉細枝末節。當然，既然是總結，就得綜合不同的文獻和教程。原創是不可能的原創的，只是加入一些自己的理解 小白本白暴風哭泣 老規矩，參考文獻在文末，需要自取 作...
高方差與高偏差學習筆記
error bias variance。這裡的error大概可以理解為模型的 錯誤率，是有兩部分組成的，一部分是由於模型太簡單而帶來的估計不準確的部分 bias 樸素貝葉斯是高偏差低方差的演算法 另一部分是由於模型太複雜而帶來的更大的變化空間和不確定性 variance error反映的是整個模型的...