關於感知機：
1.
什麼是感知機（
perceptron）
感知機是最簡單的神經網路，具備神經網路的必備要素。感知機也稱為感知器，是一種雙層神經網路，即只有輸入層和輸出層而沒有隱層的神經網路。
感知機是一種二類分類的線性分類器，其輸入為例項的特徵向量，輸出為例項的類別，感知機屬於判別模型，旨在求出將訓練資料進行線性劃分的分離超平面。
感知機最早是由rosenblatt於2023年提出的，是支援向量機和神經網路的基礎。感知機學習演算法簡單而易於實現，基於誤分類的損失函式，利用梯度下降法對損失函式進行極小化，損失函式選擇誤分類點到分離超平面的總距離。
線性分類器（
linearclassifier
）：線性方程對應於特徵空間的乙個超平面，是超平面的法向量，是超平面的截距，這個將特徵空間劃分為兩部分的超平面稱為分離超平面。在感知機模型中，是偏置（
bias
），是權重、權值（
weight
），感知機只有這兩種引數，求解模型其實就是求這兩個引數。
資料集的線性可分性：如果存在乙個超平面可以將兩類資料點劃分開，就是線性可分的資料集。資料集線性可分的充要條件是正例項點集構成的凸集與負例項點集構成的凸集互不相交。
任意乙個點到超平面的距離為：
傳統的感知機模型的啟用函式都是用的sign，所以與svm諸多相似。感知機只是乙個線性模型，可以解決與（and）、或（or）問題，但無法解決複雜的異或（xor）問題。並且，只要資料集是線性可分的，感知機模型一定是收斂的，而且有無窮多個解。感知機學習演算法有對偶形式，不再深究。
傳統的感知機演算法：
2.
多層感知機（
multi-layerperceptron
）(mlp)
mlp是一種非線性分類器，傳統的感知機模型是兩層的nn，是線性的，而mlp是三層及以上的nn，就可以實現非線性任務，比如三層的mlp可以實現異或（xor）問題。
mlp是由bp演算法來計算的，bp演算法的推導及過程見其他章節。mlp的結構如下：
輸入層（
input layer）：
每乙個節點對應於x的每一維，節點本身並不完成任何處理，只是把每一維的訊號傳送到下一層的每個節點。
中間層（隱層，
hidden layer）：
隱層的節點是隱節點。
輸出層（
output layer）：
輸出層的每個節點對應y的每一維，對於連續性變數、**性資料y，就是一維的。對於分型別的y，一般是用一維來代表一類，有幾類就有幾個輸出節點。
神經網路結構：
訊號沿著從輸入層到輸出層的方向單向流動，是輸入層到輸出層的對映。
同層節點無連線，每個節點與上一層、下一層的所有節點都連線。
這種nn是前饋型神經網路（
feedforwardnn
），mlp就是這種的。
MLP 多層感知機網路
反向傳播神經網路是對非線性可微分函式進行權值訓練的多層網路，是前向神經網路的一種。比如，乙個三層bpn結構如下 由輸入層 隱含層和輸出層三層組成。其中每一層的單元與之相鄰層的所有單元連線，同一層的單元之間沒有連線。當一對學習樣本提供給網路後，神經元的啟用值從輸入層經各中間層向輸出層傳播，在輸出層的各...
keras多層感知機MLP
肯定有人要說什麼多層感知機，不就是幾個隱藏層連線在一起的嗎。話是這麼說，但是我覺得我們首先要自己承認自己高階，不然怎麼去說服 hu nong 別人呢 from keras.models import sequential from keras.layers import dense import n...
多層感知機（MLP）原理簡介
多層感知機 mlp，multilayer perceptron 也叫人工神經網路 ann，artificial neural network 除了輸入輸出層，它中間可以有多個隱層，最簡單的mlp只含乙個隱層，即三層的結構，如下圖 輸入層沒什麼好說，你輸入什麼就是什麼，比如輸入是乙個n維向量，就有n個...