感知機筆記

2021-08-14 14:58:29 字數 732 閱讀 6528

最近在《統計學習方法概論》中讀了感知機這一章節,就隨手記錄下學習筆記和自己的一些理解。不得不吐槽一下插公式真的是麻煩。

假設輸入空間

(特徵向量)為

x⊆rn

,輸出空間為

y=。輸入x∈

x表示例項的特徵向量,對應於輸入空間的點;輸出y∈

y表示示例的類別。由輸入空間到輸出空間的函式為

f(x)=sign(w⋅x+b)

稱為感知機。其中,引數

w叫做權值向量weight

b稱為偏置bias。w⋅

x表示w和

x的點積

∑i=1mwixi=w1x1+w2x2+...+wnxn

sign

為符號函式,即

f(x)=就建立了3*3的gram矩陣。在確定超平面的時候,如果存在例項x_1,x_2,...,x_n,那麼有引數a_1,a_2,...a_n且x_i是誤分類點,就對a_i,b進行修正,其餘引數暫時不用管。知道所有誤分類點都被正確分類,結束演算法。

總結:

感知機是根據建立的損失函式對w,b進行調參,使損失函式最小,也就是所有的誤分類點都正確分類就算完成演算法。感知機演算法的對偶問題就是將w,b都表示為x_i,y_i例項,的線性組合的形式,通過求解其係數而求得w,b。1∥

w∥1∥

w∥1∥

w∥

感知機學習筆記

從今天起,我會不定時更新機器學習學習心得,不會去寫特別複雜的公式,因為這些公式在 統計學習方法 和 機器學習 上面都有,我也有標註和推導,也不期望像趙志勇師兄那樣發書,只想通過我的學習筆記更多的記錄我對這個知識點的理解與概括,方便我日後回顧複習時快速記憶。感知機 首先,感知機 pla 是乙個二類分類...

機器學習 感知機筆記

感知機 perceptron 是二類分類的線性分類模型,其輸入為例項的特徵向量,輸出為例項的類別,取 1和 1二值,屬於判別模型。感知機學習旨在求出將訓練資料進行線性劃分的分離超平面,為此,匯入基於誤分類的損失函式,利用梯度下降法對損失函式進行極小化,求得感知機模型。分為原始形式和對偶形式。為了找出...

機器學習筆記 感知機模型

knn演算法matlab實現 感知機模型 感知機介紹 感知機 假設輸入空間 特徵空間 是 chi subseteq r n 輸出空間是 y 輸入 x in chi 表示例項的特徵向量,對應於輸入空間 特徵空間 的點 輸出 y in gamma 表示例項的類別 由輸入空間到輸出空間的函式 f x si...