作業六 三層神經網路調參 劉強

2022-05-18 23:36:57 字數 2440 閱讀 3191

專案

內容這個作業屬於哪個課程

人工智慧實戰2019

這個作業的要求在**

作業要求

我在這個課程的目標是

將機器學習理論與實踐相結合,獲得一定的專案經驗,提高程式設計能力

這個作業在哪個具體方面幫助我實現目標

嘗試三層神經網路調參,理解引數的意義

我的github鏈結

1.引數列表:

learning_rate = 0.05

n_hidden1 = 64

n_hidden2 = 32

n_output = 10

m_epoch = 60

batch_size = 10

2.loss值:

0 0 2.37689043217

0 1000 0.432571430108

0 2000 0.338263958146

0 3000 0.323517596685

0 4000 0.309689011875

0 5000 0.264196678596

1 0 0.253663533592

1 1000 0.225091250396

1 2000 0.236370147596

1 3000 0.202064396648

1 4000 0.186951836691

1 5000 0.183216687054

2 0 0.17333548637

2 1000 0.185751911191

2 2000 0.148136969589

2 3000 0.157264050993

2 4000 0.141908106272

2 5000 0.137579386733

3 0 0.140633230237

3 1000 0.122336743552

3 2000 0.117733838217

3 3000 0.13898186953

3 4000 0.137541782618

3 5000 0.101203587862

4 0 0.110881821664

4 1000 0.10214756419

4 2000 0.102826663842

4 3000 0.111126711617

4 4000 0.0865627260779

4 5000 0.088709192089

5 0 0.0852044471365

5 1000 0.0888149888445

5 2000 0.0821572817033

......

55 3000 0.000921672465616

55 4000 0.000928296170349

55 5000 0.000923241808591

56 0 0.000900403256044

56 1000 0.000885718468488

56 2000 0.000898801780245

56 3000 0.000878166141021

56 4000 0.000887567429741

56 5000 0.000882332425497

57 0 0.000870645397225

57 1000 0.000872234088337

57 2000 0.000867735170769

57 3000 0.000881484849988

57 4000 0.000855625080622

57 5000 0.000864108366941

58 0 0.000868287806744

58 1000 0.000872201055018

58 2000 0.000837460951493

58 3000 0.000827796346698

58 4000 0.000836365496608

58 5000 0.000829128308243

59 0 0.000820865039696

59 1000 0.000811084333221

59 2000 0.000839236194899

59 3000 0.000821233888089

59 4000 0.000848592663184

59 5000 0.000813831106977

3.loss下降曲線:

4.最終結果:

testing...

rate=9772 / 10000 = 0.9772

神經網路調參

神經網路的一些調參方法小結 1 網格搜尋法 網格搜尋就是將多個引數進行笛卡爾乘積後逐個試驗,很費時間。sklearn庫有gridsearchcv函式,結合了交叉驗證,我還沒在神經網路上應用過。2 逐個調參 用列舉的方法逐個引數調優,乙個引數取最佳值後固定住再進行下乙個引數調優,比網格搜尋快一些。不過...

三層神經網路

import numpy as np defsigmoid x,deriv false if deriv true return x 1 x x是經過啟用函式後的 return1 1 np.exp x 前向傳播的值x np.array 0,0,1 0,1,1 1,0,1 1,1,1 0,0,1 標籤...

三層神經網路python 簡單的三層神經網路

參照 python神經網路程式設計 寫乙個簡單的三層神經網路 usr bin env python coding utf 8 import numpy sigmoid 函式 import scipy.special 簡單的三層全連線網路,包括乙個輸入層,乙個隱層和乙個輸出層 損失函式用sigmoid...