Tensorflow筆記之深層神經網路

2021-10-03 18:55:28 字數 322 閱讀 5619

前面的學習中已經介紹了tensorflow的基本概念。下面會學習深層神經網路。深層神經網路的定義為:一類通過多層非線性變換對高複雜性資料建模演算法的合集。因為深層神經網路是實現「多層非線性變換」最常用的一種方法。深度學習具有兩個非常重要的特性:多層和非線性。

(1)線性模型的侷限性

當模型的輸入有n個時,x和y形成了n+1維空間中的乙個平面。而乙個線性模型中通過輸入得到輸出的函式稱之為乙個線性變換。線性模型任意組合仍為線性模型。因此只通過線性比啊暖,任意的全鏈結神經網路和單層神經網路模型的表達能力沒有任何區別,解決問題能力有限,這就是線性模型最大的侷限性。

(2)啟用函式實現去線性化

Tensorflow 深層神經網路

維基百科對深度學習的定義 一類通過多層非線性變換對高複雜性資料建模演算法的合集.tensorflow提供了7種不同的非線性啟用函式,常見的有tf.nn.relu,tf.sigmoid,tf.tanh.使用者也可以自己定義啟用函式.3.1.1 交叉熵 用途 刻畫兩個概率分布之間的距離,交叉熵h越小,兩...

3 TensorFlow 深層神經網路

深層神經網路 簡稱為深度學習有兩個非常重要的特性 1.多層 2.非線性 線性模型的侷限性 例如前面的神經網路有兩層 不算輸入層 但是它和單層的神經網路井沒有區別,任意線性模型的組合仍然還是線性模型,然而線性模型能夠解決的問題是有限的 下面用tensorflow playground來演示 線性模型的...

Tensorflow筆記之(損失函式)

常用的損失函式有 1.均方誤差 tf.reduce mean tf.square 真實值 值 2.自定義損失函式 3.交叉熵 tf.nn.softmax cross entropy with logits lables 真實值,logits 值 通過 酸奶日銷量與影響因素x1,x2之間關係,理解損失...