對隱藏層的簡單理解

本文**自 對隱藏層的簡單理解

什麼是輸入層呢？和單級網路一樣，該層只起到輸入訊號的扇出作用.所以在計算網路的層數時不被記入。該層負責接收來自網路外部的資訊，被記作第0層。

什麼是輸出層？它是網路的最後一層，具有該網路的最大層號，負責輸出網路的計算結果。

從上面的話可以粗略的看出，隱藏層與輸入輸出層乙個最大的區別是它不直接接受外界的訊號，也不直接向外界傳送訊號。書上有一段話是這樣說的"顯然,輸入向量,輸出向量的維數是由問題所直接決定的。然而，網路隱藏層的層數和各個隱藏 層神經元的個數則是與問題相關的。目前的研究結果還難以給出它們與問題型別及其規模之間的函式關係。實驗表明，增加隱藏層的層數和隱藏層神經元的個數不一 定能夠提高網路的精度和表達能力，在多數情況下，bp網一般都選用二級網路。"

什麼意思？和問題有關，但還不知道是什麼關係。可以這樣理解吧！

隱藏層的提出是伴隨著多級網路的概念一起提出的，它主要解決乙個線性不可分問題(線性不可分問題可以描述為，由單級感知器不能表達的問題稱為線性不可分問題。比如異或問題.)。

書本上寫到"事實上，乙個單級網路可以將平面劃分成兩部分，用多個單級網組合在一起，並用其中的乙個去綜合其他單級網的結果，就可以構造乙個兩級網路，該網路可以被用來在平面上劃分出乙個封閉或者開放的凸域來(什麼是凸域？我也不懂)，如圖所示，如果第一層含有 $n$ 個神經元，則每個神經元可以確定一條 $n$ 維空間中的直線，其中，$an_$ 確定第 $i$ 條邊。輸出層的 $an_$ 用來實現對它們的綜合。這樣，就可以用乙個兩級單輸出網在$n$ 維空間中劃分出乙個 $m$ 邊凸域來。在這裡，圖中第2層的神經元相當於乙個與門。當然，根據實際需要，輸出層的神經元可以有多個。這可以根據網路要模擬的實際問題來決定。

按照這些分析，很容易構造成第一層含兩個神經元，第二層含乙個神經元的兩級網路來實現"異或"運算。

這就是我對隱藏層和多級網路的簡單認識，當然，我不求一下子就把它的含義弄得非常清楚，需要以後再來鞏固。

明天繼續努力，弄清楚書上的bp演算法，重點理解什麼是誤差反向傳播，它具體怎麼使用。

對C 名字隱藏的理解

overwrite 重寫 是指派生類的函式遮蔽了與其同名的基類函式，規則如下 1 如果派生類的函式與基類的函式同名，但是引數不同。此時，不論有無virtual關鍵字，基類的函式將被隱藏 注意別與過載混淆 如何理解這句呢？看這個例子 class firstclass void firstclass m...

ROI Pooling層簡單理解

目標檢測typical architecture 通常可以分為兩個階段 1 region proposal 給定一張輸入image找出objects可能存在的所有位置。這一階段的輸出應該是一系列object可能位置的bounding box。這些通常稱之為region proposals或者 reg...

對buffer的簡單理解

定義了乙個bufffer byte buf new byte 0x100000 說明 首先定義乙個buffer，說白了就是申請一塊記憶體空間，new返回的是乙個指標，所以這裡的宣告有錯的，應該這樣 byte pbuf new byte 0x100000 如果申請成功，則返回了該記憶體空間的首位址，如...