其中，x1和x2稱為輸入，w1和w2為權重，+表示運算的規則，θ為閾值，y為輸出
運算規則只有w1x1+w2x2，若結果小於等於θ得到輸出為0，大於θ則輸出1。
#自定義感知機
#實現邏輯和
def and(x1,x2):
w1,w2 = 0.5,0.5 #兩個權重
theta = 0.7 #閾值
tmp = x1*w1+x2*w2
if tmp <=theta: return 0
else:return 1
if __name__ == '__main__':
print(and(1,1))
def or(x1,x2):
w1,w2 = 0.5,0.5 #兩個權重
theta = 0.2 #閾值
tmp = x1*w1+x2*w2
if tmp <=theta: return 0
else:return 1
if __name__ == '__main__':
print(or(1,1))#1
print(or(1,0))#1
print(or(0,0))#0
#自定義感知機
#實現邏輯和
def and(x1,x2):
w1,w2 = 0.5,0.5 #兩個權重
theta = 0.7 #閾值
tmp = x1*w1+x2*w2
if tmp <=theta: return 0
else:return 1
# 實現邏輯或
def or(x1,x2):
w1,w2 = 0.5,0.5 #兩個權重
theta = 0.2 #閾值
tmp = x1*w1+x2*w2
if tmp <=theta: return 0
else:return 1
#實現異或
def xor(x1,x2):
s1 = not and(x1,x2) #對x1，x2做邏輯和計算再去非
s2 =or(x1,x2) #直接對x1.x2做邏輯和運算
y = and(s1,s2)
return y
if __name__ == '__main__':
print(xor(1,1)) #0
print(xor(1,0)) #1
print(xor(0,1)) #1
print(xor(0,0)) #0
對於任意複雜度的連續波萊爾可測函式f，僅僅需要乙個隱含層，只要這個隱含層包含足夠多的神經元，前饋神經網路使用擠壓函式作為啟用函式，就可以任意精度來近似模擬f若想增加f的近似精度，單純依靠增加神經元的數目即可實現。
該定理表明，前饋神經網在理論上可近似解決任何問題
增加網路的層數會顯著提公升神經網路系統的學習效能。
階躍函式是一種特殊的連續時間函式，是乙個從0跳變到1的過程，函式形式與影象如下：
sigmoid函式也叫logistic函式，用於隱層神經元輸出，取值範圍為（0，1）它可以將乙個實數對映到（0,1）的區間，可以用來做二分類
softmax函式定義如下
其中vi是分類器前級輸出單元的輸出。i表示類別索引，總的類別個數為c。si表示的是當前元素的指數與所有元素指數和的比值。通過softmax函式可將多類的輸出數值轉換為相對概率，而這些值得累和為1.
softmax函式常用在最後一層輸出層
啟用函式：將計算結果轉換為輸出的值，包括階躍函式，sigmod、tanh、relu
神經網路 感知機
受生物學的啟發，人工神經網路是有一系列簡單的單元互相緊密聯絡構成的，每個單元有一定數量的實數輸入和唯一的實數輸出。神經網路的乙個重要的用途就是接受和處理感測器產生的複雜輸入並行進行自適應的學習。人工神經網路演算法模擬生物神經網路，是一種模式匹配演算法，通常用於解決分類和回歸問題。人工神經網路是機器學...
神經網路 一） 感知機
計算智慧型 是北航開的一門研究生課程，主要內容為神經網路的原理和應用。該課程從聖經網路的原理開始，以感知機 簡單神經網路為過渡，最後以深度學習結束。此博文為在學習該門課程的過程中，自己在完成課程作業的過程中的一些 和心得。作業一 感知機的基本原理與應用題目 設有兩個模式樣本集合 d1 d2 用感知機...
從感知機到神經網路
在我的之前的部落格中已經講解了感知機，接下來談到的神經網路與感知機有許多共同之處，下面主要是講講神經網路與感知機的不同之處。首先來看看乙個神經網路的示例 上圖示，最左側是輸入層，中間的一列被稱為中間層，也被稱之為隱藏層，最右一列被稱為輸出層。則，神經網路在訊號傳遞的過程中與感知機有什麼聯絡呢？在之前...