原版：
一、感知器
下圖為乙個感知器，單個神經元。
該感知器的演算法：
二、多層人工神經網路
（1）基本概念
神經網路，這裡先以前饋神經網路為介紹，每層為全連線，則對於2個神經元，引數為：
（1）w權值，（2）b偏置，（3）delta 啟用函式。多層神經網路的結構圖，以下為前饋神經網路的結構（2層）：
常用的 delta 啟用函式：
基於梯度下降的權值更新： wj
←wj−
λ∂e(
w)∂w
j lambda為學習率。
（2）反向傳播（back-propagation）
對於資料集，可以使用mini-batch，每次選取一部分，直到將資料使用完畢。每次每個資料報括兩個階段， 向前階段和向後階段。
向前階段：通過初始權值、初始偏置和啟用函式，每次更新隱藏層和輸出層的值；（3）神經網路特向後階段：通過權值更新法則，更新權值和偏置。
直到資料使用完畢，或者，權值更新的差值小於某個閾值。
人工神經網路（ANN）
參考資料 從函式上來看，神經網路是回歸方程的級聯疊加，用來逼近目標函式的，本質是一種模擬特徵與目標之間的真實關係函式的模型 乙個有向拓撲，每層有若干節點，節點間有邊，邊上有權值。輸入層隱藏層 多層 後層是前層各節點值的線性組合的函式，即y f x0 w1x1 w2x2 wnxn 線性組合的係數就是邊...
人工神經網路ANN
一 基本概念 ann artificial neural network前饋神經網路的縮寫 二 模型構建 2.1 神經元 2.2 啟用函式 意義 啟用函式是用來讓給神經網路加入非線性因素的，因為線性模型的表達能力不夠。如果沒有啟用函式，那麼該網路僅能表達線性對映，此時即便有再多的隱藏層，其整個網路跟...
人工神經網路（ANN）學習
神經元數學模型o i t 1 f 其中o為輸出，f為神經元變換函式，w為權重，t為閾值。如果新增乙個x0 1,w0j tj，可以簡化為 oj f w tjx 變換函式 有四種 閾值型 sigmoid 分段線性 概率分布 boltzmann 神經網路學習 通用學習規則 w j r wj t x t d...