深度學習之 絡中的 絡(NIN)

2022-04-28 21:18:15 字數 742 閱讀 5193

lenet、alexnet和vgg在設計上的共同之處是:先以由卷積層構成的模組充分抽取空間特徵,再以由全連線層構成的模組來輸出分類結果。

其中,alexnet和vgg對lenet的改進主要在於如何對這兩個模組加寬(增加通道數)和加深。本節我們介紹⽹絡中的⽹絡(nin)—— 它提出了另外⼀個思路,即串聯多個由卷積層和「全連線」層構成的⼩⽹絡來構建⼀個深層⽹絡。

卷積層的輸⼊和輸出通常是四維陣列(樣本,通道,⾼,寬),⽽全連線層的輸⼊和輸出則通常是⼆維陣列(樣本,特徵)。如果想在全連線層後再接上卷積層,則需要將全連線層的輸出變換為四維。

左圖是alexnet和vgg的⽹絡結構區域性,右圖是nin的⽹絡結構區域性

nin是在alexnet問世不久後提出的。它們的卷積層設定有類似之處。nin使⽤卷積窗⼝形狀分別為\(11 \times 11\) 、\(5 \times 5\) 和 \(3 \times 3\) 的卷積層,相應的輸出通道數也與alexnet中的⼀致。每個nin塊後接⼀個步幅為2、窗⼝形狀為 \(3 \times 3\) 的最⼤池化層。

nin 與 alexnet 區別:

nin去掉了alexnet最後的3個全連線層,取⽽代之地,nin使⽤了輸出通道數等於標籤類別數的nin塊,然後使⽤全域性平均池化層對每個通道中所有元素求平均並直接⽤於分類。

深度學習 VGG16網路結構詳解

vgg16的結構層次 vgg16總共有16層,13個卷積層和3個全連線層,第一次經過64個卷積核的兩次卷積後,採用一次pooling,第二次經過兩次128個卷積核卷積後,再採用pooling,再重複兩次三個512個卷積核卷積後,再pooling,最後經過三次全連線。附上,官方的vgg16網路結構圖 ...

ZooKeeper學習之配置 3 網路配置

下面這些配置對client與server之間的連線和超時時間進行了限制。globaloutstandinglimit 這個配置指定了等待處理的最大請求數量的限制 zookeeper.globaloutstandinglimit client傳送請求的速度可能會比server端處理的速度快,會導致請求...

安卓開發學習筆記(3) 網路請求之Volley

public class mainactivity extends new response.errorlistener mrequestqueue.add stringrequest post stringrequest new stringrequest request.method.post,...