《python神經網路》讀書筆記(一)

2021-08-20 07:11:42 字數 1099 閱讀 6357

大約三天讀完,這本書淺顯易懂,非常適合入門,只有權重調整值的推導過程看得不是很透徹。

神經網路也是機器學習的一種實現,可以應用在有監督學習和無監督學習,因為中間可以有較多層,所以屬於深度學習方法。

神經網路的名字很唬人,其實概念挺樸素的,是由含乙個輸入層乙個輸出層和若干隱藏層構成的有向無環圖(這名字也唬人),看影象一目了然,為啥叫隱藏層呢,就是因為和輸入輸出沒關係,看不見,有點兒神秘。每層的每個結點借助生物的概念稱為神經元,各層之間神經元相互鏈結。

「輸入層與隱藏層之間的鏈結權重」與「輸入訊號」加權求和,「和值」通過神經元函式(通常是階躍函式)運算得到隱藏層的結果。

用與第一步相同的過程計算出輸出層的結果。

目標值-輸出值=誤差。

將誤差按權重反向傳播給隱藏層。

用梯度下降法最小化誤差,計算出誤差調整值,初始誤差+誤差調整值=訓練結果。

mnist手寫數字識別

世代隱藏層

隱藏層結點數

學習率識別率

訓練時長(s)11

1000.1

0.9479

24.010211

1000.2

0.951825.499111

1000.3

0.9443

26.078711

1000.6

0.9209

24.988311

100.2

0.849511.465611

2000.2

0.9558

97.418521

2000.2

0.9574

49.080331

2000.2

0.9602

78.724341

2000.2

0.959

104.720251

2000.2

0.9627146.968761

2000.2

0.9577

162.4879

《人工神經網路》讀書筆記

day 1 神經網路 指生物的大腦神經元,細胞,觸點等組成的網路,用於產生生物的意識,幫助生物進行思考和行動。人工神經網路 指旨在模仿人腦結構及其功能的資訊處理系統。人腦與計算機資訊處理機制的比較 1 系統結構 2 訊號形式 3 資訊儲存 4 資訊處理機制 1 系統結構 人腦 由數百億神經元相互連線...

讀書筆記 神經網路與深度學習(五)迴圈神經網路

建立乙個額外的延時單元,儲存歷史資訊。延時神經網路在前饋網路中非輸出層都增加了乙個延時器,記錄最近幾次神經元的輸出。這樣就具有了短期記憶能力。自回歸模型是統計學上常用的一類時間序列模型,用乙個變數的歷史資訊來 自己。有外部輸入的非線性自回歸模型是乙個擴充套件,每個時刻都有乙個外部輸入x,產生乙個輸出...

讀書筆記《神經網路與深度學習》

機器學習是人工只能的乙個分支,機器學習本身是乙個非常大的概念。輸入資料報括 歷史資料 正確期望值 錯誤期望值 輸入資料後有模型自行進行聚類 規則區分 乙個連續決策的過程,其數學本質是馬爾科夫決策過程。馬爾科夫過程 對於乙個系統,有乙個狀態轉移到另乙個狀態的過程中,存在著轉移概率,且轉移概率可以通過前...