4.感知器
這裡會通過乙個模式識別的問題，說明如何利用神經網路來求解這個問題。
當商販在儲存水果時，需要將水果分類。我們把全部的水果通過乙個分類的機器，首先需要通過乙個感測器測量水果的三個特徵：外形，質地與重量。
我們定義：（1）圓形為1，橢圓為-1。（2）光滑為1，粗糙為-1。（3）超過一磅為1，輕於一磅為-1。
則橘子為：p1=[1 -1 -1]』 蘋果為：p2=[1 1 -1]'
因此對每乙個樣本，神經網路都會接受到乙個三維的向量。
4.1 先介紹下兩輸入的單神經元感知機
當w11=-1，w12=1時，a=hardlims（n）=handlims（[-1 1]p+b）,當a>=0，輸出為1。a<0,輸出為-1。
上圖中，斜線上方為淨輸入n>0的點，線上為n=0的點，線下方為n<0的點。判定邊界總是和權值矩陣正交，即矩陣w總是垂直於判斷邊界的直線。一般來說, w是由多個行向量組成的矩陣,每一行向量的使用方法如上所示。w的每一行都會形成乙個判斷邊界。因為邊界必須是線性的,所以單層感知機只能用於識別一些線性可分(能夠用乙個線性邊界區分)的模式。
4.3 模式識別
回到原始問題，僅僅只有兩個類別,所以可採單神經元感知機。向量輸入是三維的(r=3) ,該感知機的輸入/輸出關係由下式描述：
a = hardlims
我們希望橘子的輸出結果為-1，蘋果的輸出結果為1。
標準的橘子可表示為 p1=[1 -1 -1]』
標準的蘋果可表示為 p2=[1 1 -1]』
我們的思路是，找出乙個面，將空間分為兩部分，比較p1與p2，我們可以發現，區別在於p2的數值不同。因此p1 p3兩個軸定義的平面為所求的判定邊界，此時p2=0，偏置值b也為0。所以，w=[0 1 0],b=0。但是存在乙個問題，就是如果有乙個不標準的水果，可能會出現錯誤的結果。
4.4 感知器的學習
當多輸入神經元網路的判定邊界無法用圖形方式表示的情況下,如何確定權值矩陣和偏置值？這裡主要利用了訓練感知機網路的演算法來解決這個問題。
學習規則：
**（1）有監督的學習：**通過一組訓練值（輸入與對應的輸出）。調整網路的權值和偏置值,從而使網路的實際輸出越來越接近於目標輸出。感知機的學習規則就屬於這一類有監督學習。
**（2）無監督的學習：**僅僅根據網路的輸入調整網路的權值和偏置值。它沒有目標輸出。大多數這種型別的演算法都是要完成某種聚類操作,學會將輸入模式分為有限的幾種型別。這種功能特別適合於諸如向量量化等應用問題。
**（3）增強學習：**增強學習與有監督的學習類似,只是它並不像有監督的學習一樣為每乙個輸入提供相應的目標輸出,而是僅僅給出乙個級別。這個級別(或評分)是對網路在某些輸入序列上的效能測度。當前這種型別的學習要比有監督的學習少見。它最為適合控制系統應用領域。
結構如下：
a = hardlim (wp+b) hardlim函式的定義為n>=0時，a=1，否則為0。如果權值矩陣的第 個行向量與輸入向量的內積大於等於 -b ,該輸出為 1,否則輸出為 0。因此網路中的每個神經元將輸入空間劃分成兩個區域。
4.5 學習規則的構造：
（單神經元）目標輸出為0的輸入向量為白色點，1的為黑色點。
在訓練開始時,為網路的引數賦一些初始值。由於這裡要訓練的是乙個兩輸入/單輸出的無偏置值網路,所以僅需對其兩個權值的進行初始化。這裡將 的兩個元素設定為如下兩個隨機生成的數：1w』=[1.0 0.8]。可以看出，有兩個值被錯誤的分類了，接下來我們要進行迭代。
一種方法是讓1w=p1，這種方法存在侷限性，當如下圖情況時將會始終存在乙個黑點被錯誤的分類。
一般的方法是將p1加到1w上，產生新的1w
當這個輸入滿足後，我們依次向下進行，直到完全分類正確。
可總結為（e在情況1時等於1…）：
同樣的，此規則可擴充套件到偏置值的訓練過程中：可將偏置值看作是乙個輸入總是為 1 的權值。
因此，多神經元感知機的訓練為
我們在進行調整時，可以把p除以p的二範數，進行歸一化，即
訓練是不斷學習的過程。單層感知器網路只能解決線性可分的分類問題,所以要求網路的輸入模式是線性可分的。在這種情況下,上述學習過程反覆進行,通過有限的步數後,網路的實際輸出與期望輸出的誤差將減小到零,此時,也就完成了網路的訓練過程。訓練的結果使網路的訓練樣本模式分布記憶在權值和閾值中,當給定網路乙個輸入模式時,網路將根據式 a = f (wp+b)計算出網路的輸出,從而判斷這一輸入模式屬於記憶中的哪一種模式或接近於哪一種模式。
4.6 感知器的侷限性
(1)感知器神經網路的傳輸函式一般採用閾值函式,故輸出值只有兩種(0 或 1,-1 或 l ) ;
(2)單層感知器網路只能解決線性可分的分類問題,而對線性不可分的分類問題無能為力;
(3)感知器學習演算法只適於單層感知器網路,所以一般感知器網路都是單層的。
4 人工神經網路
目標函式可是是實數 離散或向量。使用計算單元模擬神經元，計算單元有多輸入和不變的單值輸出。適用例項是通過屬性值對描述事件的 目標函式複雜 資料有誤 學習時間長 求值迅速。結構 感知器 線性單元 sigmoid s型的 單元。感知器 輸入實數值，輸出其線性組合是否大於某值 1 1 由此規定假設空間，該...
人工神經網路之感知器演算法
感知器作為人工神經網路中最基本的單元，有多個輸入和乙個輸出組成。雖然我們的目的是學習很多神經單元互連的網路，但是我們還是需要先對單個的神經單元進行研究。感知器演算法的主要流程 首先得到n個輸入，再將每個輸入值加權，然後判斷感知器輸入的加權和最否達到某一閥值v，若達到，則通過sign函式輸出1，否則輸...
神經網路（單層感知器）
感知器是神經網路中的乙個概念，在1950s由frank rosenblatt第一次引入。單層感知器是最簡單的神經網路。它包含輸入層和輸出層，而輸入層和輸出層是直接相連的。與最早提出的mp模型不同，神經元突觸權值可變，因此可以通過一定規則進行學習。可以快速 可靠地解決線性可分的問題。單層感知器由乙個線...