卷積神經網路

2021-08-18 19:00:33 字數 714 閱讀 2546

從神經網路到卷積神經網路

為什麼?

1.對於人工神經網路,如果輸入資料維度較高、神經元較多、隱藏層較多這些都會導致引數過多,而引數的過多會導致模型訓練速度慢。

2.人工神經網路隨著層數的不斷增加,如果層數過多容易產生過擬合。

卷積神經網路是讓神經元進行部分學習,然後在合成。其實是一種分布式思想。

每一層的神經元,其實只和上一層裡某些小區域進行連線,而不是和上一層每個神經元全連線。

卷積神經網路的結構

卷積神經網路主要的的3層:

具體來說:

結構示例 (針對影象)

我們繼續拿cifar-10資料集舉例,乙個典型的該資料集上的卷積神經網路分類器應該有[input - conv - relu - pool - fc]的結構,具體說來是這樣的:

總結一下:

卷積神經網路的優缺點

優點:

缺點:

典型的cnn

神經網路常用框架

1.caffe

model zoo中有大量預訓練好的模型供使用。

2.mxnet

對視訊記憶體利用率非常高;

定義網路層簡單。

3.tensorflow

視覺化方便,實時監控;

資料和模型並行化好,速度快。

4.另外:theano、keras、torch

參考:

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...

卷積神經網路 有趣的卷積神經網路

一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...