判別函式(四)之感知器演算法

2021-08-14 18:48:52 字數 2245 閱讀 5584

基本思想

感知器的訓練演算法:

已知兩個訓練模式集分別屬於ω1類和ω2類,權向量的初始值為w(1),可任意取值。若

-若-若

-若以上情況不符合,則表明該模式樣本在第k次中分類正確,因此權向量不變,即:w(k+1) = w(k)

若對此時,感知器演算法可統一寫成:

感知器演算法實質上是一種賞罰過程對正確分類的模式則「賞」,實際上是「不罰」,即權向量不變。對錯誤分類的模式則「罰」,使w(k)加上乙個正比於xk的分量。當用全部模式樣本訓練過一輪以後,只要有乙個模式是判別錯誤的,則需要進行下一輪迭代,即用全部模式樣本再訓練一次。如此不斷反覆直到全部模式樣本進行訓練都能得到正確的分類結果為止。

結合下面的例子體會一下(感知器演算法的收斂性,只要模式類別是線性可分的,就可以在有限的迭代步數里求出權向量。):

將屬於ω2的訓練樣本乘以(-1),並寫成增廣向量的形式。x①=(0 0 1)t, x②=(0 1 1)t, x③=(-1 0 -1)t, x④=(-1 -1 -1)t

第一輪迭代:取c=1,w(1)= (0 0 0)t

因wt(1)x①=(0 0 0)(0 0 1)t=0≯0,故w(2)=w(1)+x①=(0 0 1)t

因wt(2)x②=(0 0 1)(0 1 1)t=1>0,故w(3)=w(2)=(0 0 1)t

因wt(3)x③=(0 0 1)(-1 0 -1)t=-1≯0,故w(4)=w(3)+x③=(-1 0 0)t

因wt(4)x④=(-1 0 0)(-1 -1 -1)t=1>0,故w(5)=w(4)=(-1 0 0)t

這裡,第1步和第3步為錯誤分類,應「罰」。

因為只有對全部模式都能正確判別的權向量才是正確的解,因此需進行第二輪迭代。

第二輪迭代:

因wt(5)x①=(-1 0 0)(0 0 1)t=0≯0,故w(6)=w(5)+x①=(-1 0 1)t

因wt(6)x②=(-1 0 1)(0 1 1)t=1>0,故w(7)=w(6)=(-1 0 1)t

因wt(7)x③=(-1 0 1)(-1 0 -1)t=0≯0,故w(8)=w(7)+x③=(-2 0 0)t

因wt(8)x④=(-2 0 0)(-1 -1 -1)t=2>0,故w(9)=w(8)=(-2 0 0)t

需進行第三輪迭代。

第三輪迭代:

因wt(9)x①=(-2 0 0)(0 0 1)t=0≯0,故w(10)=w(9)+x①=(-2 0 1)t

因wt(10)x②=(-2 0 1)(0 1 1)t=1>0,故w(11)=w(10)=(-2 0 1)t

因wt(11)x③=(-2 0 1)(-1 0 -1)t=1>0,故w(12)=w(11)=(-2 0 1)t

因wt(12)x④=(-2 0 1)(-1 -1 -1)t=1>0,故w(13)=w(12)=(-2 0 1)t

需進行第四輪迭代。

第四輪迭代:

因wt(13)x①=1>0,故w(14)=w(13)=(-2 0 1)t

因wt(14)x②=1>0,故w(15)=w(10)=(-2 0 1)t

因wt(15)x③=1>0,故w(16)=w(11)=(-2 0 1)t

因wt(16)x④=1>0,故w(17)=w(12)=(-2 0 1)t

該輪的迭代全部正確,因此解向量w=(-2 0 1)t,相應的判別函式為:

d(x)=-2x1+1

採用感知器演算法的多類模式的分類:

感知器演算法判別函式的推導

多類情況3:對m類模式存在m個判別函式,若

若若其中第l個權向量使得

其中c是乙個正常數。權向量的初始值wi(1),i = 1,2,…,m可視情況任意選擇。這裡的分類演算法都是通過模式樣本來確定判別函式的係數,但乙個分類器的判斷效能最終要受並未用於訓練的那些未知樣本來檢驗。要使乙個分類器設計完善,必須採用有代表性的訓練資料,它能夠合理反映模式資料的整體。要獲得乙個判別效能好的線性分類器,究竟需要多少訓練樣本?

直觀上是越多越好,但實際上能收集到的樣本數目會受到客觀條件的限制;過多的訓練樣本在訓練階段會使計算機需要較長的運算時間;一般來說,合適的樣本數目可如下估計:若k是模式的維數,令c=2(k+1),則通常選用的訓練樣本數目約為c的10~20倍。

線性判別函式 判定面以及感知器

標籤 模式分類 不知道你還記不記得前面講過的判別函式的問題 見概述,貝葉斯策略,最大似然估計 乙個 判別函式 是指由x的各個分量的線性組合而成的函式 g x w tx w 0 這裡w 是 權向量 w0 被稱為 閾值權 或者 偏置 一般情況下有c個這樣的判別函式,分別對應c類中的一類,我們總是選取gi...

人工神經網路之感知器演算法

感知器作為人工神經網路中最基本的單元,有多個輸入和乙個輸出組成。雖然我們的目的是學習很多神經單元互連的網路,但是我們還是需要先對單個的神經單元進行研究。感知器演算法的主要流程 首先得到n個輸入,再將每個輸入值加權,然後判斷感知器輸入的加權和最否達到某一閥值v,若達到,則通過sign函式輸出1,否則輸...

神經網路之 感知器

在神經網路中,我們主要使用的是一種稱為s型神經元的神經元模型。感知器就是我們所謂的 人工神經元 那麼感知器怎麼工作的呢,接下來我們來談談。1.感知器工作機制 上圖中有x1,x2和x3輸入,一般情況下我們可以引入權重w1,w2和w3來表示輸入對輸出的重要性,這時可以計算w1 x1 w2 x2 w3 x...