在tensorflow中，變數（tf.variable）的作用就是儲存和更新神經網路的引數。在神經網路中，給變數賦予隨機數最為常見，所以一般使用隨機數給tensorflow的變數初始化。
1、tf.random_normal 正態分佈隨機數
2、tf.truncated_normal
正態分佈，但如果隨機出來的值偏離值超過2個標準差，那麼這個數將會被重新隨機
3、tf.random_uniform 均勻分布
4、tf.random_gamma gamma 分布
tensorflow也支援常數來初始化乙個變數。
1、tf.constant 產生乙個給定值的常量
2、tf.zeros(shape，dtype) 產生全為0的陣列
3、tf.ones
產生全為1的陣列
4、tf.fill 產生乙個全部為給定數值的陣列
在神經網路中，偏執項(bias)通常會使用常數來設定初始值。
前向傳播過程
維度變數是乙個重要的屬性，和型別不大一樣，維度在執行中是可能改變的，但是需要設定引數validate_shape=false
Tensorflow卷積神經網路
卷積神經網路 convolutional neural network,cnn 是一種前饋神經網路,在計算機視覺等領域被廣泛應用.本文將簡單介紹其原理並分析tensorflow官方提供的示例.關於神經網路與誤差反向傳播的原理可以參考作者的另一篇博文bp神經網路與python實現.卷積是影象處理中一種...
Tensorflow 深層神經網路
維基百科對深度學習的定義 一類通過多層非線性變換對高複雜性資料建模演算法的合集.tensorflow提供了7種不同的非線性啟用函式,常見的有tf.nn.relu,tf.sigmoid,tf.tanh.使用者也可以自己定義啟用函式.3.1.1 交叉熵 用途 刻畫兩個概率分布之間的距離,交叉熵h越小,兩...
Tensorflow（三） 神經網路
1 前饋傳播 y x w1 b1 w2 b2 import tensorflow as tf x tf.constant 0.9,0.85 shape 1,2 w1 tf.variable tf.random normal 2,3 stddev 1,seed 1 name w1 w2 tf.vari...