神經網路模型的設計和訓練十分複雜，initialization, activation, normalization,優化器,學習率 等等無不是四兩撥千斤，這篇文章主要是總結一些煉丹技巧，討論下關於如何初始化、選擇啟用函式、正則化的方式和優化器的選擇等。
乙個框架看懂優化演算法之異同 sgd/adagrad/adam
adam那麼棒，為什麼還對sgd念念不忘 (2)—— adam的兩宗罪
adam那麼棒，為什麼還對sgd念念不忘 (3)—— 優化演算法的選擇與使用策略
bn與in的比較
詳解深度學習中的normalization，bn/ln/wn
batchnormalization、layernormalization、instancenorm、groupnorm、switchablenorm總結(附**實現)
bag of tricks for image classification with convolutional neural networks
深度學習之—batchsize與lr rate之間的關係以及批處理梯度下降法
目標檢測任務的優化策略tricks
cornernet演算法解讀
centernet演算法解讀
fcos演算法解讀
詳解winograd變換矩陣生成原理
目標檢測中的特徵衝突與不對齊問題
目標檢測：foveabox（2019）
目標檢測**閱讀：reppoints(anchor free)
dqn 從入門到放棄1 dqn與增強學習
dqn 從入門到放棄2 增強學習與mdp
dqn 從入門到放棄3 價值函式與bellman方程
dqn 從入門到放棄4 動態規劃與q-learning
dqn從入門到放棄5 深度解讀dqn演算法
dqn從入門到放棄6 dqn的各種改進
dqn從入門到放棄7 連續控制dqn演算法-naf
深度增強學習之policy gradient方法1
煉丹術的終結——神經網路結構搜尋之一
煉丹術的終結——神經網路結構搜尋之二
煉丹術的終結——神經網路結構搜尋之三
煉丹術的終結 —— 進化演算法搜尋網路結構
光流估計
光流估計中，已知t和t+1時刻的兩幀影象，x導數 mat(y) (x+1) - mat(y) (x-1) /2 ；對t導數，mat_next(y) (x) - mat(y) (x) 。
two-stream和two-stream fusion
深度學習煉丹手冊
對於畫素級別的影象預處理，如 將3通道的rgb彩色標籤圖對映為標籤連續的單通道8bit掩碼圖，在同樣呼叫opencv並且採用相同演算法時，c 的處理速度可能是python opencv python 的近百倍。目前不清楚具體原因，但是根據觀察，實際python執行時只呼叫了單個cpu，而c 版本則將...
打造深度學習煉丹爐
其中本地安裝指的是本地帶有顯示卡的台式主機或者筆記本，遠端安裝特指雲端需要遠端連線的伺服器 以上兩種情況都各包含三種安裝方式 直接安裝 anaconda安裝 docker安裝。直接安裝的意思就是直接將框架裝在系統的 python 的 warper 下，最常用的就是 sudo pip install ...
Ubuntu 深度煉丹環境配置
深度煉丹最麻煩的就是環境配置了，下面過程記錄了本人進行深度煉丹環境的配置。首先是安裝圖形顯示卡驅動，按如下指令進行即可 sudo add apt repository ppa graphics drivers ppa sudo apt get update sudo apt get upgrade ...