一維卷積神經網路的理解

2021-10-10 08:15:38 字數 964 閱讀 2376

設輸入的資料維度是b x s x t

一維卷積神經網路在維度s上進行卷積

如下,設定一維卷積網路的輸入通道為16維,輸出通道為33維,卷積核大小為3,步長為2

# in_channels: 16

# out_channels: 33

# kernel_size: 3

m = nn.conv1d(16, 33, 3, stride=2)

input = torch.randn(20, 16, 50)

output = m(input)

# shape of output is ([20, 33, 24])

# 最後乙個維度:

# (50 - 3)/2 + 1 = 24

print(output.shape)

如上所述,輸入維度為20 x 16 x 50

經過一維卷積後輸出維度是20 x 33 x 24

第二個維度從16變為33,因為一維卷積輸入通道為16,對應輸入的第二個維度,一維卷積輸出為33,對應輸出的第二個維度

最後乙個維度從50變為24,將引數帶入公式[(n+2p-f) / s + 1]向下取整得到[(50-3)/2 + 1] = 24

而全連線神經網路對維度t進行卷積

使用和上述相同的輸入維度,設定全連線神經網路的輸入維度為input的最後乙個維度50,輸出維度為33

m1 = nn.linear(50, 33)

output1 = m1(input)

# shape of output1 is ([20, 16, 33])

print(output1.shape)

將輸入通過全連線神經網路後得到輸出維度為20 x 16  x 33

即,全連線神經網路只在輸入的最後乙個維度進行卷積

一維卷積神經網路 卷積神經網路中的計算

卷積的基本介紹 卷積操作後張量的大小計算 卷積參數量的計算 卷積flops的計算 感受野的計算 卷積神經網路中的卷積是指定義好卷積核 kernel 並對影象 或者特徵圖,feature map 進行滑動匹配,即對應位置相乘再相加。其特點就在於能夠捕捉區域性的空間特徵。具體過程如下圖所示 圖1 二維卷...

卷積神經網路的理解

cnn中減少引數的2兩個規則 1 區域性感知。生物學中,視覺皮層的神經元是區域性感知資訊的,只響應某些特定區域的刺激 影象的空間聯絡中,區域性的畫素聯絡較為緊密,距離較遠的畫素相關性較弱。這個對應於演算法中卷積核的大小,mnist手寫識別在28 28的畫素中取patch為5 5。上圖中 左邊是全連線...

卷積神經網路 有趣的卷積神經網路

一 前言 最近一直在研究深度學習,聯想起之前所學,感嘆數學是一門樸素而神奇的科學。f g m1 m2 r 萬有引力描述了宇宙星河運轉的規律,e mc 描述了恆星發光的奧秘,v h d哈勃定律描述了宇宙膨脹的奧秘,自然界的大部分現象和規律都可以用數學函式來描述,也就是可以求得乙個函式。神經網路 簡單又...