1
定義 神經網路是由具有適應性的簡單單元組成的廣泛並行相連的網路，他的組織能夠模擬生物神經系統對真實世界物體作出互動反應、
2神經網路中最基本的成分是神經元模型。
3sigmoid函式可以把較大範圍內的輸入值，擠壓到0-1的輸入值範圍內
4感知機由兩層神經元組成，包括輸入層和輸出層。輸出層是mp神經元。感知機能輕易的實現邏輯與或非運算
mp神經元模型，接收到來自其他n個神經元的傳遞過來的輸入訊號，這些輸入訊號通過帶權重的連線進行傳遞，神經元接收到的總輸入值將與神經元的閾值進行比較，然後通過啟用函式處理 ，產生神經元的輸出。
5輸入層和輸出層之間的一層神經元被稱為隱層或者隱含層。隱含層和輸出層神經元都是擁有啟用函式的功能神經元。
常見的神經網路是層級結構，每層神經元與下層神經元全互連，神經之間不存在同層相連，也不存在跨層連線。這樣的神經網路稱為多層前饋神經網路，輸入層神經元接收外來輸入，隱層和輸出層神經元對訊號進行加工，最終結果由輸出層神經元輸出，換言之，輸入層神經元僅是接收輸入，不進行函式處理，隱層和輸出層包含功能神經元
神經網路的學習過程就是根據訓練資料來調整神經元之間的連線權重和每個功能神經元的閾值。
6誤差逆傳播，簡稱bp演算法。是迄今為止最成功的的神經網路學習演算法。現實使用神經網路時，大多都是在用bp演算法進行訓練。bp演算法不僅可以用於多層前饋神經網路，還可以用於其他型別的網路。
機器學習 第五章神經網路 學習筆記
神經網路是由具有適應性的簡單單元組成的廣泛並行互聯的網路，它的組織能夠模擬生物神經系統對真實世界物體所做出的的互動反應。乙個神經元會接收到來自其他n個神經元傳遞過來的輸入訊號，這些輸入訊號通過帶權重的連線進行傳遞，神經元接收到的總輸入值將與神經元的閾值進行比較，然後通過啟用函式處理以產生神經元的輸出...
第五章 神經網路
單層感知器和啟用函式 亦或問題 與非概念 bp演算法 神經網路中誤差反向傳播 back propagation 演算法的工作原理 標準bp演算法與累積bp演算法 用到隨機梯度下降 競爭型學習som網路自組織對映 競爭學習演算法 競爭輸出乙個獲勝的 最優的 向量歸一化 競爭層 輸入層 k means的...
第五章 卷積神經網路
1單選 2分 已知兩層3 3的卷積核與一層5 5的卷積核具有相同的感受野，那麼前者 3 3 和後者 5 5 的參數量和計算量是什麼關係 特徵圖尺寸為32 2單選 2分 在批標準化 bn 操作中，如果batch size大小為32，特徵圖深度為16，那麼該bn層的總引數以及可訓練引數個數分別為 3單選...