1 1卷積核在卷積神經網路中的作用

2021-08-19 13:21:39 字數 612 閱讀 1846

1*1卷積過濾器和正常的過濾器一樣,唯一不同的是它的大小是1*1,沒有考慮在前一層區域性資訊之間的關係。最早出現在 network in network的**中 ,使用1*1卷積是想加深加寬網路結構 ,在inception網路( going deeper with convolutions )中用來降維,如下圖:

由於3*3卷積或者5*5卷積在幾百個filter的卷積層上做卷積操作時相當耗時,所以1*1卷積在3*3卷積或者5*5卷積計算之前先降低維度。

那麼,1*1卷積的主要作用有以下幾點:

1、降維( dimension reductionality )。比如,一張500 * 500*100 的用20個1*1*100的filter做卷積,那麼結果的大小為500*500*20。

2、加入非線性。卷積層之後經過激勵層,1*1的卷積在前一層的學習表示上新增了非線性激勵( non-linear activation ),提公升網路的表達能力;

卷積神經網路 1 1 卷積核

卷積神經網路中卷積核的作用是提取影象更高維的特徵,乙個卷積核代表一種特徵提取方式,對應產生乙個特徵圖,卷積核的尺寸對應感受野的大小。經典的卷積示意圖如下 5 5的影象使用3 3的卷積核進行卷積,結果產生3 3 5 3 1 的特徵影象。卷積核的大小一般是 2n 1 2n 1 的奇數乘奇數大小 n 1 ...

卷積神經網路 1 1 卷積核

卷積神經網路中卷積核的作用是提取影象更高維的特徵,乙個卷積核代表一種特徵提取方式,對應產生乙個特徵圖,卷積核的尺寸對應感受野的大小。經典的卷積示意圖如下 5 5的影象使用3 3的卷積核進行卷積,結果產生3 3 5 3 1 的特徵影象。卷積核的大小一般是 2n 1 2n 1 的奇數乘奇數大小 n 1 ...

卷積神經網路中1 1卷積核的用處

最近在看google的inception resnet以及一些最新的cnn網路時發現其中常常用到1 1的卷積核,一直不太明白這樣不就是複製前一層網路資訊嗎?後來發現1 1卷積真的很有用。對於一張28 28 1這樣的單通道,其的確沒什麼作用。但是如果對於28 28 16中多通道,使用6個1 1卷積核之...