卷積神經網路 有趣的卷積神經網路

2021-10-12 08:53:51 字數 1626 閱讀 4236

一、前言

最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f=g*m1*m2/r²萬有引力描述了宇宙星河運轉的規律,e=mc²描述了恆星發光的奧秘,v=h*d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。

神經網路(《簡單又複雜的人工神經網路》)可以逼近任何連續的函式,那麼神經網路就有無限的泛化能力。對於大部分分類問題而言,本質就是求得乙個函式y=f(x),例如:對於影象識別而言就是求得乙個以畫素張量為自變數的函式y=f(畫素張量),其中y=貓、狗、花、汽車等等;對於文字情感分析而言,就是為了求得乙個以詞向量或者段落向量為自變數的函式y=f(詞向量),其中y=正面、負面等等……

本篇部落格包括以下內容:

1、卷積神經網路的原理

2、基於dl4j定型乙個卷積神經網路來進行手寫數字識別

三、卷積神經網路原理

下面左邊有個9*9的網格,紅色填充的部分構成了數字7,把紅色部分填上1,空白部分填上0,就構成了乙個二維矩陣,傳統做法可以用求向量距離,如果數字全部都標準的寫在網格中相同的位置,那麼肯定是準確的,但是,實際上數字7在書寫的過程中,可能偏左一點、偏右一點,變形扭曲一點,這時候就難以識別。另外,一幅的畫素點的數量是巨大的,例如一幅50*50的將有2500個畫素點,每個畫素點有r、g、b三個維度的顏色,那麼輸入引數的個數有7500個,這個運算量是巨大的。

那麼就需要有乙個抽象特徵、降低資料維度的方法,這就說到了卷積運算,用乙個小於的卷積核掃過整幅求點積。卷積的過程看下圖。**於

卷積運算的過程在於尋找中的顯著特徵,並達到降維的目的,整個過程相當於乙個函式掃過另乙個函式,掃過時兩個函式的積分重疊部分並沒改變的特徵形狀,並可以降低維度,另外還可以分割槽塊來提取特徵,並且拼接特徵。

為了進一步降低維度,引入了池化,池化的方式有很多,如最大值,平均值。下圖展示了乙個步長為2的2*2最大池化過程,用乙個2*2的方塊掃瞄過,求max,總共掃瞄4次,4次掃瞄的最大值分別是6、8、3、4。

最後,經過多層卷積和池化之後,會得到乙個矩陣,該矩陣作為乙個全連線網路的輸入,在逼近乙個函式,就識別出數字了,以上圖得到的6、8、3、4為例,全連線網路求乙個函式。

四、deeplearning4j手寫體識別

2、解壓(我解壓在e盤)

3、訓練網路,評估(一些比較難的部分都做了注釋)

public class mnistclassifier

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...

卷積神經網路 卷積神經網路啟用層

在生物意義上的神經元中,只有前面的樹突傳遞的訊號的加權和值大於某乙個特定的閾值的時候,後面的神經元才會被啟用。簡單的說啟用函式的意義在於判定每個神經元的輸出 放在人臉識別卷積神經網路中來思考,卷積層的啟用函式的意義在於這一塊區域的特徵強度如果沒有達到一定的標準,就輸出0,表明這種特徵提取方式 卷積核...