神經網路的認識(一)神經網路的認識

2021-09-23 18:33:47 字數 874 閱讀 4760

特徵提取:我的理解就是將物體資料化,將乙個實體盡可能的描述成計算機可以懂得話,就比如定義乙個人,姓名、性別、愛好、出生地、出生日期…這樣可以給他打足夠多的標籤,就可以定義他是誰了,這個標籤就是特徵。

使用神經網路有4個步驟

提取問題中實體的特徵向量作為神經網路的輸入,不同實體可以提取不同的特徵向量

定義神經網路的結構,並定義如何從神經網路中的輸入得到輸出,這個過程就是神經網路的前向傳播演算法

通過訓練資料來調整神經網路引數的取值,這就是訓練神經網路的過程

使用訓練的神經網路來**未知的資料

看這個圖表示了前向傳播的過程

輸入層對應神經網路的輸入

神經網路的連線結構,就是不同節點之間的連線方式

確定每個節點的引數,就是確定w的各種值

這樣就可以輸入x1和x2通過這個前向傳播得到y。

在得到乙個批次的前向傳播結果之後,需要定義乙個損失函式來刻畫當前的**值和真實答案之間的差距。然後通過反向傳播演算法來調整神經網路引數的取值使得差距可以被縮小 。

這個是乙個常用的確定上面w值的一種演算法

以上程式實現了訓練神經網路的全部過程。從這段程式可以總結出訓練神經網路的過程可以分為以下三個步驟 :

定義神經網路的結構和前向傳播的輸出結果。

定義損失函式以及選擇反向傳播優化的演算法 。

生成會話( tf.session)並且在訓練、資料上反覆執行反向傳播優化演算法。

無論神經網路的結構如何變化,這三個步驟是不變的 。

神經網路的認識(二)深層神經網路

損失函式 神經網路優化演算法 神經網路進一步優化 深層學習有兩個非常重要的特性 多層和非線性 線性模型的侷限性,就是任意線性模型的組合仍然還是線性模型。所以引出啟用函式,經過啟用函式變換完的輸出就不再是線性的了。如果將每乙個神經元 也就是神經網路中的節點 的輸出通過乙個非線性函式,那麼整個神經網路的...

初步認識神經網路

機器學習 讓機器 廣義上的計算機 通過學習來獲得類似人類的智慧型。例如 人類會下圍棋,alphago或alphago zero就是乙個掌握了圍棋知識 會下圍棋的電腦程式。神經網路 實現機器學習任務的一種演算法 數學模型。機器學習領域的神經網路,特指人工神經網路 其網路結構類似於生物神經系統,用來模擬...

神經網路的認識(三)卷積神經網路

卷積神經網路主要由以下五種結構組成 輸入層。輸入層是整個神經網路的輸入 在處理影象 的卷積神經網路中,它一般代表了一張的畫素矩陣。從輸入層開始 卷積神經網路通過不同的神經網路結構將上一層的三維矩陣轉化為下一層的三維矩陣 直到最後的全連線層。卷積層。從名字就可以看出,卷積層是乙個卷積神經網路中最為重要...