監督學習的任務是學習乙個模型，使模型能夠對任意給定的輸入，對其相應的輸出做出乙個好的**。
輸入空間和輸出空間是輸入和輸出的所有可能取值的集合，可以是有限個元素，也可以是整個歐式空間。
每個輸入由特徵向量表示，所有特徵向量的空間為特徵空間。特徵向量的每一維對應乙個特徵。輸入空間和特徵空間不一定一致。模型輸入時都會將輸入空間的例項對映到特徵空間的特徵向量。
輸入和輸出變數用大寫字母表示，所取的值用小寫字母表示。變數可以是標量和向量。
回歸問題是輸入變數和輸出變數均為連續變數的**問題；分類問題是輸出變數為有限個離散變數的**問題；標註問題是輸入變數和輸出變數均為變數序列的**問題。
統計學習方法概述
1 實現統計學習的方法的步驟如下 1 得到乙個有限的訓練資料集合，假設這些資料是獨立同分布的。2 確定包含所有可能的模型的假設空間，即學習模型的集合。3 確定模型選擇的準則，即學習的策略。4 實現求解最優模型的演算法，即學習的演算法。5 通過學習方法選擇最優模型。6 利用學習的最優模型對新資料進行 ...
統計學習方法筆記 概述
小知識點 法向量 垂直於平面的直線所表示的向量為該平面的法向量 法向量一般是方程的係數，比如 ax by cz d 0，那麼法向量就是 a,b,c 證明如下 一 範數 l0範數 向量中非0元素的個數 l1範數 向量中各元素的絕對值之和 l2範數 向量中各元素的平方和然後求平方根 二 經驗風險與結構化...
統計學習方法筆記 01概述
統計學習是計算機運用資料及統計方法提高效能的機器學習 herbert a.simon.如果乙個系統能夠通過執行某個過程改進它的效能，這就是學習。物件是資料 從資料出發，提取資料特徵，抽象資料模型，發現資料知識，回到資料的分析與 中。前提假設 同類資料具有一定的統計規律性。比如用隨機變數來描述資料特徵...