一：神經元模型
1.單輸入神經元
神經元是神經網路操作的基本資訊處理單位。乙個單輸入神經元如下圖所示。標量輸入p乘上權值w得到wp，再將其送入累加器；另乙個輸入1乘上偏置值b，再將其送入累加器。偏置值b的作用是根據其為正或負，相應的增加或者降低傳輸函式的網路輸入。累加器輸出n通常被稱為傳輸函式f的淨輸入，當n被送到傳輸函式f時，在f中產生神經元的標量輸出a。
2.傳輸函式。
上圖中的傳輸函式可以是n的線性或者非線性函式，可以用特定的傳輸函式滿足神經元要解決的問題。下面將討論三種傳輸函式：
（1）硬極限傳輸函式；
（2）線性傳輸函式；
（3）對數s形傳輸函式；
目前工程和設計中運用的傳輸函式有很多，常用的傳輸函式都在下表中。當然，也可以根據特定的問題定義自己需要的傳輸函式。
3.多輸入神經元
具有r個輸入的神經元的簡化符號
左邊垂直的實心條表示輸入向量p，p下面的變數r×1表示p的維數，也即輸入是由r個元素組成的一維向量。這些輸入被送人權值矩陣w，w有1行r列。
常量1則作為輸入與標量偏置值b相乘。傳輸函式f的淨輸入是n，它是偏置值b與積wp的和。在這種情況下，神經元的輸出a是乙個標量。如果網路有多個
神經元，那麼網路輸出就可能是乙個向量。
請注意，網路的輸入是由問題的外部描述決定的。
二：網路結構
下圖是由s個神經元組成的單層網路
該層包括權值矩陣、累加器、偏置值向量b、傳輸函式框和輸出向量a。
輸入向量p的每個元素均通過權值矩陣w和每個神經元相連。
輸入向量通過如下權矩陣w進入網路：
同樣，具有s個神經元、r個輸入的單層網路也能用簡化的符號表示為如圖下所示的形式。
層上標 現在考慮具有幾層神經元的網路。每個變數都附加乙個上標來表示其所處層次。圖下所示的三層網路就使用了這種標記方法。
輸入層 隱含層 如果某層的輸出是網路的輸出，那麼稱該層為輸出層，而其他層叫隱含層。
前面討論的三層網路同樣也可以用簡化的符號表示，
遞迴網路
延時 在討論遞迴網路前，首先介紹一些簡單的構造模組。第一種是延時模組，如下圖
積分器 另一種將用於連續時間遞迴網路的構造模組是積分器，如下圖
遞迴網路 乙個遞迴網路是乙個帶反饋的網路，其部分輸出連線到它的輸入。圖2-13給出了一種型別的離散時間遞迴網路。
如何選取一種網路結構
應用問題的描述從如下幾個方面非常有助於定義網路的結構：
1）網路的輸入個數=應用問題的輸入數；
2）輸出層神經元的數目=應用問題的輸出數目；
3）輸出層的傳輸函式選擇至少部分依賴與應用問題的輸出描述。
第二章 神經元模型和網路結構
2.2 原理與例項 神經元模型 單輸入 a f wp b f為傳輸函式,w為權值,b為偏置,a為輸出.常用的三種傳輸函式 硬極限 hardlim n 對稱硬極限 hardlims n 線性 purelin n 飽和線性 satlin n 對稱飽和線性 satlins n 正線性 poslin n l...
神經網路 II 神經元模型
人工神經網路的生物原型是大腦，人腦中的神經網路是乙個非常複雜的組織，其基本組成單位是神經元 神經細胞 的大腦中估計有1000億個神經元之多。十九世紀末二十世紀初，在解剖學家 生物學家 醫學家的共同努力下，神經元的組成結構便被研究清楚，乙個神經元主要由四部分構成 神經元怎麼發揮作用呢？其實神經元是個訊...
簡單的神經元模型
其函式表達如下所示 y b i xiwi y b ix iwi其中，w w 表示權值，x role presentation style position relative x x表示輸入。y y 表示輸出。線性神經元模型中，輸入xi可以被看作是 來自其他神經元的動作電位，該動作電位引起突觸的興奮。...