關係抽取 (二)卷積神經網路

2021-10-22 20:50:42 字數 1305 閱讀 1008

卷積神經網路主要通過卷積運算來實現對多維資料的處理,例如對一副影象資料,其畫素為6x6,通過設計乙個卷積核(或稱過濾器)filter來對該圖形資料進行掃瞄,卷積核可以實現對資料的過濾,例如下面例子中的卷積核可以過濾出影象中的垂直邊緣,也稱為垂直邊緣檢測器。

例如假設矩陣:

表示乙個原始影象類資料,選擇卷積核(垂直邊緣檢測器):

然後從原始影象左上方開始,一次向右、向下進行掃瞄,掃瞄的視窗為該卷積核,每次掃瞄時,被掃瞄的9個數字分別與卷積核對應的數字做乘積(element-wise),並求這9個數字的和。例如掃瞄的第乙個視窗應該為:

則最後生成新的矩陣:

以上的事例稱為矩陣的卷積運算。在卷積神經網路中,卷積運算包括如下幾個引數:

(1)資料維度:即對當前需要做卷積運算的矩陣的維度,通常為三維矩陣,維度為 m∗n∗d 。

(2)卷積核維度:即卷積核的維度,記為 f ∗ f ∗ d ,當d為1時,為二維卷積核,通常對二維矩陣進行卷積運算,當 d >1 時為三維卷積核,對影象型別資料進行卷積運算。

(3)卷積步長stride:即卷積核所在視窗在輸入資料上每次滑動的步數。上面的事例中明顯步長為1。

(4)資料填充padding:在卷積操作中可以發現新生產的矩陣維度比原始矩陣維度變小,在一些卷積神經網路運算中,為了保證資料維度不變,設定padding=1,對原始矩陣擴充0。這種方式可以使得邊緣和角落的元素可以被多次卷積運算,也可以保證新生成的矩陣維度不變。可以計算出每個維度應該向外擴充 f − 1 或 d − 1 。

卷積神經網路的基本結構如圖所示:

參考:深度學習的關係抽取&spm=1000.2123.3001.4430

《1。卷積神經網路》

1.簡述卷積的基本操作,並分析其與全連線層的區別 答 具有區域性連線和權值共享的特點。卷積操作能夠在輸出資料中大致保持輸入資料的結構資訊 2.在卷積神經網路中,如何計算各層的感受野大小?答 3.卷積層的輸出尺寸 參數量和計算量 答 輸出尺寸 1.簡述分組卷積及其應用場景 答 分組卷積就是將輸入通道和...

深度學習(二 卷積神經網路)

主要層結構 卷積層 池化層 全連線層。神經元個數 乙個卷積層的輸出是20 20 32,則神經元的個數為 20 20 32 12800 濾波器視窗大小 3 3,輸入的資料體深度10,則每個神經元有 3 3 10 900引數 總的引數 12800 900 11520000個引數 引數共享 32個濾波器,...

卷積神經網路 1 1 卷積核

卷積神經網路中卷積核的作用是提取影象更高維的特徵,乙個卷積核代表一種特徵提取方式,對應產生乙個特徵圖,卷積核的尺寸對應感受野的大小。經典的卷積示意圖如下 5 5的影象使用3 3的卷積核進行卷積,結果產生3 3 5 3 1 的特徵影象。卷積核的大小一般是 2n 1 2n 1 的奇數乘奇數大小 n 1 ...