深度學習，人工智慧，神經網路這些概念往往令初學者頭疼不已，這裡列出其基礎概念的歸納總結，幫助小白入坑，共同學習。
人工神經網路(artificial neural network，ann),是一種模擬生物神經網路的結構和功能的數學模型或計算模型。
神經網路與小波分析、混沌、粗糙理論、分形理論的融合。
2023年，美國心理學家和數學家提出模擬生物神經元，被稱為mp的人工神經網路，特徵：連續時間非線性動力學，並行分布。
神經網路結構：
向前網路
反饋網路
學習方法：
監督學習：將訓練樣本的資料加到網路輸入端，同時將相應的期望輸出與網路輸出相比較，得到誤差訊號，以此控制權值連線強度的調整，經過多次訓練後收斂到乙個確定的權值。
非監督學習：不給定標準樣本，直接將網路置於環境之中，學習階段與工作階段成為一體。例子：hebbian學習規則、競爭學習 hebbian學習規則：學習過程最終發生在神經元之間的突觸，突觸的聯絡強度隨著突觸前後神經元的活動而變化。 競爭學習：根據已建立的聚類進行權值調整。自組織對映、適應諧振理論網路都與競爭學習有關。
單層感知器只能對線性可分的向量集合進行分類。為了解決線性不可分(如異或問題)的輸入向量大的分類問題，可以在單層感知器中增加網路層，即多層感知神經網路。
由線性神經元構成，最簡單的一種。代表為2023年史丹福大學b.widrow提出自適應線性神經元，學習演算法是least mean squares(lms)演算法。 用途：用於函式逼近、訊號處理濾波、**、模式識別等方面。與感知器神經網路的不同之處在於每個神經元的傳遞函式為線性函式(purelin)，感知器網路的輸出只能是0和，線性神經網路的輸出可以取任意值。
matlab**：產生線性神經網路和計算網路的輸出
net=newlind(p,t)y=sim(net,p)bp神經網路演算法
bp網路能學習和儲存大量的輸入-輸出模式對映關係，而無需事前揭示描述這種對映關係的數學模型。學習規則是使用最速下降法，通過反向傳播來不斷調整網路的權值和閾值，使網路的誤差平方和最小。
2023年，powell提出多變數插值的rbf函式方法，能夠以任意精度逼近任意連續函式，特別適合解決分類問題。
反饋網路，又稱自聯想記憶網路，其目的是為了設計乙個網路，儲存一組平衡點，使得當給網路一組初始值時，網路通過自行執行而最終收斂到這個設計的平衡點上。其能夠表現出非線性動力學系統的動態特性，具有主要特性為：
網路系統具有若干個穩定狀態，當網路從某一初始狀態開始運動，網路系統總可以收斂到某乙個穩定的平衡狀態
系統穩定的平衡狀態可以通過設計網路的權值而被儲存到網路中。
反饋網路
輸入延遲
輸出延遲
競爭型神經網路是基於無監督學習方法的神經網路的一種重要型別，可以構成具有自組織能力的網路，如自組織競爭型神經網路、自組織對映網路、學習向量量化網路等。
基本思想：讓競爭層各神經元來競爭對輸入模式相應的機會，最後僅有乙個神經元成為競爭的勝者。獲勝神經元的輸出代表對輸入模式的分類。
MATLAB神經網路學習入門之BP神經網路
bp神經網路 有導師學習神經網路 前向神經網路 誤差反向傳播 要求啟用函式可導 可微分 學習演算法 1.propagation 2.weight update 梯度下降 資料歸一化?可以應用到julien專案的資料中 newff create feed forward backpropagation...
Matlab實現BP神經網路
該實現為 資料探勘 課程的一次作業。資料在 上，所以資料為csv格式。但bp神經網路演算法為最一般的實現，所以有參考價值。close all 關閉開啟的檔案 clear 清除記憶體中的資料 echo on 顯示執行的每一條命令 clc 清除命令列視窗 pause 敲任意鍵開始 定義訓練樣本 p為輸入...
BP神經網路（基於MATLAB）
clc clear all 匯入資料 load s data.mat s含量所用資料 n 12 n 是自變數的個數 m 1 m 是因變數的個數 讀取訓練資料 train num 1600 訓練樣本數 train data s data 1 train num,特徵值歸一化 train input,m...