卷積核分解 深度可分離卷積

2021-10-24 06:28:52 字數 480 閱讀 2462

googlenet團隊在inception v2 :較大尺寸的卷積核可以帶來較大的感受野,但也會帶來更多的引數和計算量。

用兩個連續的3x3的卷積核來代替乙個5x5的卷積核,在保證感受野大小不變的同時可以減少引數個數,如下圖

兩個3x3的卷積核的引數數量為18,乙個5x5的卷積核的引數數量為25,由此可見引數數量得以減少,且感受野大小不變。

乙個nxn的卷積核可以由1xn和nx1的卷積核組合代替。例如,當n為3時

在網路低層使用這個方法不好,在中等大小的特徵圖上使用這個方法效果比較好,建議在第12層到第20層使用。

深度可分離卷積

下面這個文章介紹了深度可分離卷積是怎麼做的 本文的很多內容都是在這兩個文章的基礎上整理的。卷積基礎 描述乙個二維矩陣,使用row col。三維的,使用channel row col。四維則多了乙個引數 batch channel row col。batch channel row col的邏輯順序則...

深度可分離卷積

如果乙個卷積核代表乙個影象的屬性的話,上圖的方法就只能提取到乙個屬性。那麼如果想要多個屬性就需要多個卷積核 上圖中是最常見的卷積方法,使用多個卷積核來提取多個屬性。但是存在引數量過大的情況 先用三個卷積核對三個通道分別卷積,再對得到的結果進行1x1的卷積,這時候只要增加1 1卷積核的個數就能對應的增...

深度可分離卷積

3.實際應用 假設輸入層為乙個大小為64 64畫素 三通道彩色。經過乙個包含4個filter的卷積層,最終輸出4個feature map,且尺寸與輸入層相同。整個過程可以用下圖來概括 卷積層共有4個filters,每個filter有3個kernel,每個kernel的大小為3x3,因此卷積層的引數數...