解釋一下全連線層

2021-08-16 00:04:35 字數 677 閱讀 5801

original url:

在卷積神經網路的最後,往往會出現一兩層全連線層,全連線一般會把卷積輸出的二維特徵圖轉化成一維的乙個向量,這是怎麼來的呢?目的何在呢?

舉個例子:

最後的兩列小圓球就是兩個全連線層,在最後一層卷積結束後,進行了最後一次池化,輸出了20個12*12的影象,然後通過了乙個全連線層變成了1*100的向量。

這是怎麼做到的呢,其實就是有20*100個12*12的卷積核卷積出來的,對於輸入的每一張圖,用了乙個和影象一樣大小的核卷積,這樣整幅圖就變成了乙個數了,如果厚度是20就是那20個核卷積完了之後相加求和。這樣就能把一張圖高度濃縮成乙個數了。

全連線的目的是什麼呢?因為傳統的網路我們的輸出都是分類,也就是幾個類別的概率甚至就是乙個數--類別號,那麼全連線層就是高度提純的特徵了,方便交給最後的分類器或者回歸。

但是全連線的引數實在是太多了,你想這張圖里就有20*12*12*100個引數,前面隨便一層卷積,假設卷積核是7*7的,厚度是64,那也才7*7*64,所以現在的趨勢是盡量避免全連線,目前主流的乙個方法是全域性平均值。

也就是最後那一層的feature map(最後一層卷積的輸出結果),直接求平均值。有多少種分類就訓練多少層,這十個數字就是對應的概率或者叫置信度。

解釋一下numa

numa 非一致性儲存 當多個處理器訪問同乙個儲存器時,會有效能損失,numa通過提供分離的儲存器給各個處理器。numa系統的結點通常是由一組cpu和本地記憶體組成,有的結點可能還有i o子系統。由於每個結點都有自己的本地記憶體,因此全系統的內存在物理上是均勻分布的,每個結點訪問本地記憶體和訪問其它...

通俗的解釋一下正規化

正規化是什麼呢?比如拷貝來一段瞅瞅 正規化是符合某一種級別的關係模式的集合。關聯式資料庫中的關係必須滿足一定的要求,滿足不同程度要求的為不同正規化。我知道不用說,你肯定一臉懵逼!因為我也是!下面我就通俗的來解釋一下三大正規化吧,不喜勿噴,個人理解 第一正規化 其實就是讓列保持原子性,原子性就是不能再...

簡單解釋一下當前IT行業

所謂的it,其實是一種簡稱,它的全稱叫做 information technology 它所指的是資訊科技領域。資訊科技領域一共被分為了三個高度層次,第乙個層次是硬體層次,第二個層次是軟體層次,第三個層次是應用層次,它們之間沒有高低之分,它們共同構成了整個資訊科技領域 從事it工作的行業,也被稱為i...