詳解類別不平衡問題
盧總-類別不平衡問題的方法彙總
為少數類生成新樣本（smote、borderline-smote、adasyn）
整合方法
演算法層面
focal loss 損失函式的權重調整
閾值移動
評價指標
非均衡資料處理–如何學習？
隨機降取樣 + bagging是萬金油。
屬於bagging
假陽性率是auc的橫軸
目標檢測小tricks–樣本不均衡處理
focal loss — 從直覺到實現
對於不平衡樣本導致樣本數目較少的類別」欠學習「這一現象，乙個很自然的解決辦法是增加小樣本錯分的懲罰代價，並將此代價直接體現在目標函式裡。這就是代價敏感的方法，這樣就可以通過優化目標函式調整模型在小樣本上的注意力。演算法層面處理不平衡樣本問題的方法也多從代價敏感的角度出發。
pass
focal loss — 從直覺到實現
閾值移動主要是用到「再縮放」的思想，以線性模型為例介紹「再縮放」。
我們把大於0.5判為正類，小於0.5判為負類，即若y1−
y>
1\frac>1
1−yy
>
1則**為正例。
可令y 1−
y=y1
−y×m
−m+\frac=\frac\times \frac
1−yy=
1−yy
×m+
m−然後帶入上式。這就是再縮放。
閾值移動方法是使用原始訓練集訓練好分類器，而在**時加入再縮放的思想，用來緩解類別不平衡的方法。
如果採用roc曲線來作為評價指標，很容易因為auc值高，而忽略了少數類樣本的實際分類效果其實並不理想的情況。
可以使用聚焦於正例的pr曲線、f1值等；
precision的假設是分類器的閾值是0.5，因此如果使用precision，請注意調整分類閾值。相比之下，precision@n更有意義。
資料集類別不平衡問題
類別不平衡問題指分類任務中不同類別的訓練樣本數目差別很大的情況。一般來說，不平衡樣本會導致訓練模型側重樣本數目較多的類別，而 輕視 樣本數目較少類別，這樣模型在測試資料上的泛化能力就會受到影響。乙個例子，訓練集中有99個正例樣本，1個負例樣本。在不考慮樣本不平衡的很多情況下，學習演算法會使分類器放棄...
類別不平衡資料處理
1 不平衡資料處理教程 1 2 3 4 2 不平衡資料分類演算法 1 over sampling 隨機過取樣 smote adasyn 臨界smote演算法 svm smote等。2 under sampling 隨機欠取樣 enn renn allknn等。3 combination smotet...
處理不平衡類別的loss
在進行多分類問題的時候，常常會遇到資料不平衡的狀況，對於多分類問題，常見的loss有categorical crossentroy.可以考慮手動設定loss權重來增加模型的準確度，將類別較少的類權重增高。在試驗中，用的資料是情感分析label2的資料集，在不加權重f1值為0.53，權重為 1 2 3...