一、普通分類任務的經典tricks
1 模型優化方面
sgd，adam, rmsprop
2 資料層面的增強方法
3 learning rate的更新策略
4 損失函式優化
5 正則化
6 batchnorm
二、目標檢測訓練優化tricks
bag of freebies for training object detection neural networks-15 feb, 2019
參考部落格：
分類與gan中的mixup資料增強是以resize到相同大小的影象為前提完成的。而目標檢測中若resize到相同大小則會造成影象畸變。所以作者採用的是保持影象的集合形狀進行mixup
思路：取最大寬高並填充（constant 合成的空白區域）。計算損失時按照mixup的beta分布產生的權重對損失進行加權求和，再反向傳播loss更新模型權重。
改進學習率衰減
使用cosine schedule代替step schedule。
validation map的視覺化後，收斂後的效果方面並不會有太大改變，但是cosine比step要平滑。
隨機形狀訓練（輸入影象的多尺度訓練）
借鑑於yolo v2/v3；
每隔10個iterations就會變化訓練的尺度，->可以實現跨尺度特徵融合，是的模型不容易過擬合而增強泛化效能
PostgreSQL JPA使用總結（持續更新）
select nextval schemaname.sequencename as id from generate series starter integer,stop integer 其中generate series為乙個函式用於獲取帶序數的行，返回的行數為stop starter 1 使用...
幾種常用的排序（持續更）
arr 待排陣列 bucket 空桶 0 1 2 3 4 5 6 7 8 9 桶編號 陣列 bucket 的角標 include int main int bucket 10 初始化陣列，空桶 for i 0 i 5 i for int i 0 i 10 i return 0 氣泡排序在一組需要排序...
Linux 作業系統修改源的方法總結 持續更新
一 centos系統 修改centos預設yum源為mirrors.163.com 1 首先備份系統自帶yum源配置檔案 etc yum.repos.d centos base.repo root localhost mv etc yum.repos.d centos base.repo etc y...