TensorFlow入門 03 前向傳播演算法簡述

2021-08-31 11:46:55 字數 883 閱讀 4500

這裡以最簡單的全連線神經網路為例,講解前向傳播演算法。

構成乙個神經網路的最小單元。

|- 神經元的輸入:有多個輸入,可以是整個神經網路的輸入,也可以是上層神經元的輸出。

|- 神經元的輸出:乙個神經元只有乙個輸出。乙個最簡單的神經元結構的輸出就是所有輸入的加權和,而不同輸入的權重就是神經元的引數。

|- 神經網路的優化:指優化神經元中引數取值的過程。

將特徵向量經過層層推導,得到輸出。

在該神經網路中,相鄰兩層之間的任意節點之間都有連線。

|- 1.神經網路的輸入:即 從實體中提取出的特徵向量。

|- 2.神經網路的連線結構:即 不同神經元之間輸入輸出的連線關係。

|- 3.神經網路中每個神經元的引數:即 本例中的權重w。

|- 本例中的計算是最簡單的加權和。這裡的前向傳播演算法可以表示為矩陣乘法。

|- 輸入層的x1和x2可以組織成輸入矩陣:x=[x1,x2]

|- 權重矩陣:w1=

|- 隱藏層三個節點組成的向量取值a:a=x*w1(x矩陣乘以w1矩陣)

|- 輸出層可以表示為y:y=a*w2

a = tf.matmul(x, w1)

y = tf.matmul(a, w2)

tf.matmul實現了矩陣乘法的功能。

tensorflow前向傳播

1.demo1 import tensorflow as tf seed設定隨機種子,每次執行結果一樣 w1 tf.variable tf.random normal 2,3 stddev 1,seed 1 w2 tf.variable tf.random normal 3,1 stddev 1,s...

Tensorflow 入門記錄

tensor為張量,flow為流圖。tensorflow內含有很多寫好的工具,如梯度下降演算法,卷積操作等。在使用tensorflow時,先導入包import tensorflow as tf,在進行定義tensorflow變數時,使用tf.variable 引數 有趣的是乙個叫做佔位符的工具,tf...

tensorflow入門例子

import tensorflow as tf import numpy as np 使用 numpy 生成假資料 phony data 總共 100 個點.100,2 x data np.float32 np.random.rand 100,2 隨機輸入 y data np.dot x data,...