卷積神經網路相關基本概念

2021-10-06 05:41:38 字數 544 閱讀 8183

輸入  (rgb三個色值通道) 900*600 的彩色用 (900*600*3)陣列表示

卷積:基於卷積核(小矩陣)在每層畫素矩陣上按步長移動(左上到右下),掃到數與卷積核相對應位置數相乘再求和,全部掃完後得到乙個新矩陣。

#步長指卷積核每次移動幾個格仔,有橫向和縱向。

#卷積核裡面的每個值就是我們要尋找(訓練)的神經元引數(權重)。

padding 操作:卷積後矩陣維度變少,為保持卷積後影象尺寸可在每次卷積之前給原矩陣外麵包一層0(也可只在橫向或只在縱向補)

池化:卷積操作之後提取很多特徵資訊,相鄰區域有相似特徵資訊,可以相互替代。(保留資訊冗餘,增加計算難度),池化是在乙個小矩陣區域內,取該區域最大值或者平均值來代替該區域。相當於降維操作。

flatten:指將多維矩陣拉開,變成一維向量表示。用於全連線層輸入。

全連線層:對第n層和n-1層,n-1層的任意乙個節點都和第n層的所有節點有連線。

dropout:指在網路的訓練過程中,按照一定的概率將網路中的神經元丟棄,防止過擬合

#過擬合:模型在訓練集上表現很好卻在測試集上變現較差。

神經網路基本概念

mcculloch 精神病學家和解剖學家 和pitts 數學家 在1943年,發表第乙個系統的ann研究 閾值加權和 m p 數學模型。bp back propagation 神經網路,是指誤差的後向傳播,修正權值矩陣,達到訓練模型。1 弱點 訓練速度非常慢 區域性極小點的逃離問題 演算法不一定收斂...

深度學習筆記之卷積神經網路基本概念

1.最簡單的神經網路示意圖 其分為輸入層 輸出層 隱藏層 對於這樣乙個最簡單的神經網路,只有乙個隱藏層 在圖中,連線代表此神經元是由上一層的結點,通過一定的運算得到的。也就是說我們定義好輸入層的值和其結點的運算方式,我們就可以得到下一層的結點所對應的值 2.感知器 感知器是第乙個具有完整演算法描述的...

神經網路中的基本概念

tensor 張量 的概念是 g.ricci 在19世紀末提出的.g.ricci 研究張量的目的是為幾何性質和物理規律的表達尋求一種在座標變換下不變的形式.他所考慮的張量是如同向量的分量那樣的陣列,要求它們在座標變換下服從某種線性變換的規律.近代的理論已經把張量敘述成向量空間及其對偶空間上的多重線性...