模型：模型的假設空間，即假設要學習的模型屬於某個函式的集合，即有輸入空間到輸出空間的對映的集合
策略：模型選擇的標準
演算法：模型學習的演算法，實現求解最優模型的演算法
統計學習包括監督學習、非監督學習、半監督學習、強化學習。
輸入、輸出均為連續變數：回歸問題
輸入為連續變數，輸出為離散變數：分類問題
輸入和輸出均為變數序列：標註問題
由於學習過程中需要訓練資料，而訓練資料往往是人工給出的，因此稱為監督學習。
監督學習的模型可以是概率模型或非概率模型，由條件概率分布p(y|x)或決策函式y=f(x)表示。
（xi，yi）稱為樣本或樣本點；xi稱為輸入的觀測值或例項；yi稱為輸出的觀測值或輸出。
統計學習方法（一）
首先 李航 統計學習方法課後答案 正則化 min f f 1n i 1nl yi,f xi j f min frac sum n l y i,f x i lambda j f minf f n1 i 1 n l yi f x i j f 其中，第一項是經驗風險 loss 第二項是正則化項 0 lam...
統計學習方法 1 統計學習方法概論
統計學習的主要特點是 1 統計學習以計算機及網路為平台，是建立在計算機及網路之上的 2 統計學習以資料為研究物件，是資料驅動的學科 3 統計學習的目的是對資料進行 與分析 4 統計學習以方法為中心，統計學習方法構建模型並應用模型進行 與分析 5 統計學習是概率論 統計學 資訊理論 計算理論 最優化理...
《統計學習方法》筆記一 統計學習方法概論
好久沒有更新部落格了，這次主要想整理一下之前學習過的機器學習和深度學習有關的知識。我本身數學專業基礎比較薄弱，另外主要做計算機視覺應用所以這個系列的文章並不會涉及很多數學理論知識，學習這些機器學習方法也主要是為了找工作而用，主要了解其中的思想和非常基礎的推導過程。一 統計學習的分類 統計學習方法是基...