卷積神經網路的層次結構

2021-09-27 07:37:04 字數 1361 閱讀 6980

資料輸入層主要是對原始資料進行初步處理,使卷積神經網路能有更好的效果。處理方法有:

卷積層是卷積神經網路的核心,理解了卷積層也就理解了卷積神經網路。卷積是數學上的一種計算,而在神經網路中可以理解為一種可以提取影象特徵的運算。在卷積層中有一些概念我們需要知道。 圖1

**網路[4]

改濾波器將服飾的顏色等細節特徵過濾掉,只保留了外形等有用特徵。如果是找出顏色相同的服飾的話,那麼就要使用另乙個過濾器將外形等不重要的特徵過濾掉,只保留顏色特徵。圖2

輸出矩陣(黃色矩陣)中第乙個元素就是紅色矩陣與藍色矩陣對應位置相乘並求和,即0 * 1 + 1 * 0 + 1 * -1 + 1 * 1 + 1 * 0 + 1 * -1 + 0 * 1 + 0 * 0 + 1 * -1 = -2 。下面的**可以很好的幫助我們理解卷積運算的過程。

該圖來自網路([5])。 圖5

上面所述的運算其實是一種線性的運算,而自然中很多的關係都是非線性的,因此,需要給上面的計算結果通過乙個啟用函式加乙個非線性的關係。啟用函式是參考了生物上神經元的機制,在生物意義上的神經元中,只有前面的樹突傳遞的訊號大於神經元的閾值時,下乙個神經元才會被啟用。與之類似,啟用函式relu當輸入小於0時,輸出為零,即失效;大於零輸出則為本身。下面列出以下常見的啟用函式:

池化層是對輸入的資料進行壓縮,提取主要特徵的過程。一般池化分為最大池化和一般池化。以最大池化為例,池化的運算跟卷積有些相似,一般以乙個2 * 2的矩陣對輸入的資料進行掃瞄,取2 * 2區域的最大值。平均池化與最大池化類似,即2 * 2區域的取平均值。值得注意的是,池化層的輸入資料一般是卷積層的輸出(經過啟用函式後)。

全連線層實際上就是傳統的神經網路(dnn),每一神經元與輸出層的神經元通過權值相連,啟用函式一般為softmax函式。當全連線層輸入的資料是二維或三維矩陣矩陣時,應該拉伸成一維的列表運算。

參考:

[1]影象灰度化的常用三種方式及其實現

[2]影象歸一化

[3]資料歸一化和兩種常用的歸一化方法

[4]卷積神經網路(cnn)中的卷積核 概念 原理

[5]深度學習基礎概念筆記 (3)

[6]卷積神經網路(一):常見的啟用函式以及其意義

卷積神經網路 有趣的卷積神經網路

一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...