從今天起，我會不定時更新機器學習學習心得，不會去寫特別複雜的公式，因為這些公式在《統計學習方法》和《機器學習》上面都有，我也有標註和推導，也不期望像趙志勇師兄那樣發書，只想通過我的學習筆記更多的記錄我對這個知識點的理解與概括，方便我日後回顧複習時快速記憶。
感知機：
首先，感知機（pla）是乙個二類分類的線性分類模型，輸入的是特徵向量，輸出例項的類別，取+1和-1二值。感知機的例項必須是線性可分的，若不是線性可分，將一直進行迭代，無法停下。所以感知機的實際運用場景很侷限。感知機分別兩種形式，分別是原始形式和對偶形式。兩種形式差別並不大，運算過程都一樣，但通過對偶形式會事先計算好一些步驟的步驟的結果並儲存到gram矩陣中，因此可以加快運算速度，資料越多節省的計算次數就越多，因此對偶形式比原始形式更加的優化。感知機學習演算法是誤分類驅動的，採用隨機梯度下降演算法不斷地極小化目標函式。
幾個易混點：
1. 指的是例項點，指的是這個例項點所對應的分類區域，如=（3，3）此時將劃為正例項點，那麼此時=1，而不是座標上的y軸。
2. 矩陣的計算：見《統計學習方法》p34例2.2手寫筆記。
機器學習 感知機筆記
感知機 perceptron 是二類分類的線性分類模型，其輸入為例項的特徵向量，輸出為例項的類別，取 1和 1二值，屬於判別模型。感知機學習旨在求出將訓練資料進行線性劃分的分離超平面，為此，匯入基於誤分類的損失函式，利用梯度下降法對損失函式進行極小化，求得感知機模型。分為原始形式和對偶形式。為了找出...
感知機筆記
最近在 統計學習方法概論 中讀了感知機這一章節，就隨手記錄下學習筆記和自己的一些理解。不得不吐槽一下插公式真的是麻煩。假設輸入空間 特徵向量 為 x rn 輸出空間為 y 輸入x x表示例項的特徵向量，對應於輸入空間的點 輸出y y表示示例的類別。由輸入空間到輸出空間的函式為 f x sign w ...
機器學習筆記 感知機模型
knn演算法matlab實現 感知機模型 感知機介紹 感知機 假設輸入空間 特徵空間 是 chi subseteq r n 輸出空間是 y 輸入 x in chi 表示例項的特徵向量，對應於輸入空間 特徵空間 的點 輸出 y in gamma 表示例項的類別 由輸入空間到輸出空間的函式 f x si...