caffe solver引數意義與設定

2021-07-31 11:37:13 字數 914 閱讀 9166

batchsize:每迭代一次,網路訓練的數量,例如:如果你的batchsize=256,則你的網路每迭代一次,訓練256張;

則,如果你的總張數為1280000張,則要想將你所有的通過網路訓練一次,則需要1280000/256=5000次迭代。

epoch:表示將所有在你的網路中訓練一次所需要的迭代次數,如上面的例子:5000次;我們稱之為  一代。所以如果你想要你的網路訓練100代時,則你的總的迭代次數為max_iteration=5000*100=500000次;

max_iteration:網路的最大迭代次數如上面的500000次;同理,如果max_iteration=450000,則該網路被訓練450000/5000=90代。

test_iter

:表示測試的次數;比如,你的test階段的batchsize=100,而你的測試資料為10000張,則你的測試次數為10000/100=100次;即,你的

test_iter

=100;

test_interval

:表示你的網路迭代多少次才進行一次測試,你可以設定為網路訓練完一代,就進行一次測試,比如前面的一代為5000次迭代時,你就可以設定test_interval=5000;

base_lr

:表示基礎學習率,在引數梯度下降優化的過程中,學習率會有所調整,而調整的策略就可通過lr_policy這個引數進行設定;

lr_policy

學習率的調整策略:

momentum:

表示上一次梯度更新的權重;

weight_decay:

表示權重衰減,用於防止過擬合;

Caffe Solver裡引數解釋

整理自 caffe學習系列 7 solver及其配置 同時參考 caffe中的優化方法 caffe中learning rate 和 weight decay 的理解 和 深度學習最全優化方法總結比較 sgd,adagrad,adadelta,adam,adamax,nadam net models ...

caffe solver引數設定

solver檔案設定是通過協調網路的正向推理和反向梯度來協調模型優化,得到試圖改善損失的的引數。學習的職責被分配給負責監督優化和生成引數更新的solver,以及負責生成損失和梯度的網路。caffe有六種優化器 net models bvlc googlenet train val.prototxt ...

bootargs引數意義

u boot的環境變數值得注意的有兩個 bootcmd 和bootargs。u bootcmd 前面有說過bootcmd是自動啟動時預設執行的一些命令,因此你可以在當前環境中定義各種不同配置,不同環境的引數設定,然後設定bootcmd為你經常使用的那種引數。u bootargs bootargs是環...