深度學習隨筆 卷積神經網路

2021-10-13 07:16:55 字數 805 閱讀 3633

我主要看邱錫鵬的神經網路與深度學習來學習的(花書到時候會去看看)

用全連線前饋網路來處理影象,會存在一下問題:

引數太多

區域性不變性特性(這塊能用資料進行增強)

而卷積神經網路是一種具有區域性連線,權重共享等特性的深層前饋神經網路。

乙個典型的卷積神經網路是由卷積層,匯聚層,全連線層交叉堆疊而成。

卷積神經網路有三個結構上的特性:區域性連線,權重共享,匯聚

它的作用是提取乙個區域性區域的特徵,不同的卷積核相當於不同的特徵提取器。

比如對於影象的卷積層,它的一部分卷積層的大小會為高度mx高度nx深度d,深度是指如果影象是rgb三層組成的話,深度為3;如果是灰度影象的話,深度為

進一步的話是指:

特徵對映為一幅影象在經過卷積提取到的特徵,每個特徵對映可以作為一類抽取的影象特徵。在輸入層,特徵映像就是影象本身,如果是灰度影象的話,深度為1;如果是彩色影象,分別是rgb三個顏色通道的特徵對映,深度為3

它的作用是進行特徵選擇,降低特徵數量,從而減少引數數量。

常用的匯聚函式:

最大匯聚就是指從卷積核裡面找最大那個灰度值,平均匯聚就是指把卷積核裡面的灰度值全部加起來除以卷積核灰度值的個數,求平均值。

目前,卷積網路的整體結構趨向於使用更小的卷積核以及更深的結構。另外由於卷積的操作性越來越靈活(不同的步長),匯聚層的作用也變得越來越小(趨於全卷積網路)。

但是全卷積網路會不會對計算機效能要求更高,如果我要對實時任務做處理,該怎麼設計網路呢?

深度學習 卷積神經網路

一 卷積神經網路基礎 二 lenet 三 常見的一些卷積神經網路 卷積層的超引數 填充和步幅。步幅 stride 每次卷積核在輸入陣列上滑動的行數與列數。多輸入與輸出通道 將3維陣列除寬高外的一維稱為通道維。1 1卷積層 包含1 1的卷積核的卷積層。1 1卷積核在不改變輸入高寬的情況下調整通道數。如...

深度學習 卷積神經網路

卷積神經網路 convolutional neural networks,cnn 是一類包含卷積計算且具有深度結構的前饋神經網路 feedforward neural networks 是深度學習 deep learning 的代表演算法之一。卷積神經網路具有表徵學習 representation ...

深度學習之卷積神經網路

卷積神經網路是一種多層神經網路,擅長處理影象特別是大影象的相關機器學習問題。卷積網路通過一系列方法,成功將資料量龐大的影象識別問題不斷降維,最終使其能夠被訓練。cnn最早由yann lecun提出並應用在手寫字型識別上 minst lecun提出的網路稱為lenet,其網路結構如下 這是乙個最典型的...