BP神經網路的基本原理

2021-09-06 23:55:26 字數 3202 閱讀 4618

2.1 bp神經網路基本原理

bp網路模型處理資訊的基本原理是:輸入訊號

xi通過中間節點(隱層點)作用於輸出節點。經過非線形變換,產生輸出訊號

yk,網路訓練的每乙個樣本包含輸入向量

x和期望輸出量

t,網路輸出值

y與期望輸出值

t之間的偏差,通過調整輸入節點與隱層節點的聯接強度取值

wij和隱層節點與輸出節點之間的聯接強度

tjk以及閾值,使誤差沿梯度方向下降,經過重複學習訓練,確定與最小誤差相相應的網路引數(權值和閾值),訓練即告停止。此時經過訓練的神經網路即能對相似樣本的輸入資訊。自行處理輸出誤差最小的經過非線形轉換的資訊。2.

2 bp神經網路模型

bp網路模型包含其輸入輸出模型、作用函式模型、誤差計算模型和自學習模型。(1

)節點輸出模型

隱節點輸出模型:

oj=f(∑wij×xi-

qj)    (1)

輸出節點輸出模型:

yk=f(∑tjk×oj-

qk) (2)

f-非線形作用函式;q-

神經單元閾值。 圖

1典型bp

網路結構模型

(2)作用函式模型

作用函式是反映下層輸入對上層節點刺激脈衝強度的函式又稱刺激函式,一般取為

(0,1)

內連續取值

sigmoid

函式:f(x)=1/(1+e-x)                   (3

) (3

)誤差計算模型

誤差計算模型是反映神經網路期望輸出與計算輸出之間誤差大小的函式:

ep=1/2×∑(tpi-opi)2                (4)

tpi- i

節點的期望輸出值。

opi-i

節點計算輸出值。 (

4)自學習模型

神經網路的學習過程。即連線下層節點和上層節點之間的權重拒陣

wij的設定和誤差修正過程。

bp網路有師學習方式

-須要設定期望值和無師學習方式

-僅僅需輸入模式之分。

自學習模型為

△wij(n+1)=

h×фi×oj+a×△wij(n) (5

) h-

學習因子。

фi-輸出節點

i的計算誤差;

oj-輸出節點

j的計算輸出。

a-動量因子。

2.3 bp網路模型的缺陷分析及優化策略 (

1)學習因子

h的優化

採用變步長法依據輸出誤差大小自己主動調整學習因子,來降低迭代次數和加快收斂速度。 h

=h+a×

(ep(n)

- ep

(n-1)

)/ ep

(n)

a為調整步長。

0~1之間取值(6

) (2

)隱層節點數的優化

隱節點數的多少對網路效能的影響較大。當隱節點數太多時。會導致網路學習時間過長。甚至不能收斂;而當隱節點數過小時,網路的容錯能力差。利用逐步回歸分析法並進行引數的顯著性檢驗來動態刪除一些線形相關的隱節點,節點刪除標準:當由該節點出發指向下一層節點的全部權值和閾值均落於死區(通常取

±0.1

、±0.05

等區間)之中,則該節點可刪除。最佳隱節點數

l可參考以下公式計算:

l=(m+n)1/2+c (7)

m-輸入節點數;

n-輸出節點數。

c-介於1~

10的常數。 (

3)輸入和輸出神經元的確定

利用多元回歸分析法對神經網路的輸入引數進行處理。刪除相關性強的輸入引數,來降低輸入節點數。

(4)演算法優化

因為bp演算法採用的是剃度下降法,因而易陷於區域性最小而且訓練時間較長。用基於生物免疫機制地既能全域性搜尋又能避免未成熟收斂的免疫遺傳演算法

iga代替傳統

bp演算法來克服此缺點。

3.優化bp神經網路在系統安全評價中的應用

系統安全評價包含系統固有危急性評價、系統安全管理現狀評價和系統現實危急性評價三方面內容。

當中固有危急性評價指標有物質火災**危急性、工藝危急性、裝置裝置危急性、環境危急性以及人的不可靠性。

3.1 基於優化bp神經網路的系統安全評價模型

圖-2

基於優化

bp神經網路的系統安全評價模型

3.2 bp神經網路在系統安全評價中的應用實現 (

1)確定網路的拓撲結構。包含中間隱層的層數。輸入層、輸出層和隱層的節點數。 (

2)確定被評價系統的指標體系包含特徵引數和狀態引數

運用神經網路進行安全評價時,首先必須確定評價系統的內部構成和外部環境。確定能夠正確反映被評價物件安全狀態的主要特徵引數(輸入節點數,各節點實際含義及其表達形式等),以及這些引數下系統的狀態(輸出節點數,各節點實際含義及其表達方式等)。

(3)選擇學習樣本。供神經網路學習

選取多組相應系統不同狀態引數值時的特徵引數值作為學習樣本,供網路系統學習。這些樣本應盡可能地反映各種安全狀態。當中對系統特徵引數進行

(-∞,∞)

區間地預處理,對系統引數應進行

(0,1)

區間地預處理。神經網路的學習過程即依據樣本確定網路的聯接權值和誤差重複修正的過程。 (

4)確定作用函式。通常選擇非線形

s型函式

(5)

建立系統安全評價知識庫

通過網路學習確認的網路結構包含:輸入、輸出和隱節點數以及反映其間關聯度的網路權值的組合。即為具有推理機制的被評價系統的安全評價知識庫。

(6)

進行實際系統的安全評價

經過訓練的神經網路將實際評價系統的特徵值轉換後輸入到已具有推理功能的神經網路中。運用系統安全評價知識庫處理後得到評價實際系統的安全狀態的評價結果。

實際系統的評價結果又作為新的學習樣本輸入神經網路,使系統安全評價知識庫進一步充實。

3.3 bp神經網路理論應用於系統安全評價中的長處 (

1)利用神經網路並行結構和並行處理的特徵,通過適當選擇評價專案,能克服安全評價的片面性。能夠全面評價系統的安全狀況和多因數共同作用下的安全狀態。 (

2)運用神經網路知識儲存和自適應特徵,通過適應補充學習樣本,能夠實現歷史經驗與新知識完滿結合。在發展過程中動態地評價系統的安全狀態。 (

3)利用神經網路理論的容錯特徵。通過選取適當的作用函式和資料結構,能夠處理各種非數值性指標,實現對系統安全狀態的模糊評價。

BP神經網路基本原理

2.1 bp 神經網路基本原理 bp網路模型處理資訊的基本原理是 輸入訊號 xi通過中間節點 隱層點 作用於輸出節點,經過非線形變換,產生輸出訊號 yk,網路訓練的每個樣本包括輸入向量 x和期望輸出量 t,網路輸出值 y與期望輸出值 t之間的偏差,通過調整輸入節點與隱層節點的聯接強度取值 wij和隱...

BP神經網路基本原理

2.1 bp 神經網路基本原理 bp網路模型處理資訊的基本原理是 輸入訊號 xi通過中間節點 隱層點 作用於輸出節點,經過非線形變換,產生輸出訊號 yk,網路訓練的每乙個樣本包含輸入向量 x和期望輸出量 t,網路輸出值 y與期望輸出值 t之間的偏差,通過調整輸入節點與隱層節點的聯接強度取值 wij和...

BP神經網路基本原理

2.1 bp 神經網路基本原理 bp網路模型處理資訊的基本原理是 輸入訊號 xi通過中間節點 隱層點 作用於輸出節點,經過非線形變換,產生輸出訊號 yk,網路訓練的每乙個樣本包含輸入向量 x和期望輸出量 t,網路輸出值 y與期望輸出值 t之間的偏差,通過調整輸入節點與隱層節點的聯接強度取值 wij和...