小白帶你神經網路向量化

2021-10-07 01:53:56 字數 527 閱讀 3512

我們知道了神經網路的基本結構預期神經元節點輸入輸出的計算方法。我們可以將現在的神經網路看出乙個巨大的有向無環圖。

1.python的numpy處理資料,所有的資料python總都會盡量被表示為乙個多維陣列或者矩陣。

我們來看一下,這裡w表示第一層和第二層的所有連線引數。w就是第1層和第1個節點和第2層第1個節點的權重。w12就是第1層第2個節點

x= [x1,x2,x3]

這裡其實有3x3個引數,因為第1層有3個節點,第2層也有3個節點。所以我們可以非常自然將3x3個引數組織成為我們數字3x3矩陣。

z=wx+b

a=f(z)以此類推,把每層進行輸入h(w,b)(x)=a=f(z)

xi=>network f(x)=》f(x)

j(w,b;xi,yi)=1/2 f(xi)-yi||  平方

損失函式描述了模型求值結果和樣本真實結果之間的差距。神經網路的使用的方法就是梯度下降法。所謂梯度下降法的根據模型的損失。不斷將引數往損失降低的最低。每乙個點就是一次迭代與下降的結果,其目的就是不斷減低損失函式的值。

寶寶攻略 2 神經網路向量化

考慮乙個三層網路 乙個輸入層 乙個隱含層 以及乙個輸出層 並且假定x是包含乙個單一訓練樣本x i r n 的列向量。則向量化的正向傳播步驟如下 z 2 a 2 z 3 w 1 x b 1 f z 2 w 2 a 2 b 2 這對於單一訓練樣本而言是非常有效的一種實現,但是當我們需要處理m個訓練樣本時...

淺層神經網路的向量化實現

基於ng課程的淺層神經網路向量化python實現。模型 其中,output layer與圖中不同,只有乙個output node。usr bin env python coding utf 8 import numpy as np class smallneuralnetwork object de...

寶寶攻略 2 神經網路向量化

考慮乙個三層網路 乙個輸入層 乙個隱含層 以及乙個輸出層 並且假定x是包含乙個單一訓練樣本x i rn的列向量。則向量化的正向傳播步驟如下 z 2 a 2 z 3 w 1 x b 1 f z 2 w 2 a 2 b 2 這對於單一訓練樣本而言是非常有效的一種實現,但是當我們需要處理m個訓練樣本時,則...