從二分類到多分類的遷移策略

2021-08-31 07:02:26 字數 716 閱讀 2513

一般情況下問題研究為二分類問題,在解決多分類問題時有時可以直接推廣到多分類,有時不能,不能推廣的時候主要用三種拆分策略對問題進行研究

一對一的策略

給定資料集dd這裡有nn個類別,這種情況下就是將這些類別兩兩配對,從而產生n(n−1)/2個二分類任務,在測試的時候把樣本交給這些分類器,然後進行投票

一對其餘策略

將每一次的乙個類作為正例,其餘作為反例,總共訓練nn個分類器。測試的時候若僅有乙個分類器**為正的類別則對應的類別標記作為最終分類結果,若有多個分類器**為正類,則選擇置信度最大的類別作為最終分類結果。

多對多分類策略

基於一種糾錯輸出碼的分類策略,分為兩個步驟

編碼:對nn個類別做mm次劃分,每次劃分將一部分類別劃為正類,一部分劃為反類,從而形成乙個二分類訓練集,這樣一共產生mm個訓練集,可訓練出mm個分類器

**解碼**m個分類器分別對測試樣本進行**,這些**標記組成乙個編碼。將這個**編碼與每個類別各自的編碼進行比較,返回其中距離最小的類別作為最終**的結果

這裡的類別劃分通過編碼矩陣指定,編碼矩陣主要有,二元碼(每個類別分別指定正類反類),三元碼(正,反,停用)

一般來說編碼越長則糾錯能力越強,但是意味著所需訓練的分類器越多,計算儲存的開銷越大,不一定得到越好的訓練效果,因為跟把樣本進行分組也有關係

從二分類到多分類

從二分類到多分類,實際採用的是拆解法思想 將多分類問題拆分成許多二分類問題,為每乙個二分類問題訓練乙個分類器。測試時,對這些分類器的結果進行整合,得到最終 結果。根據拆分策略不同,分為以下三類 一對一 one vs.one,ovo 訓練 將n個類別兩兩配對,產生n n 1 2個二分類任務,每個任務使...

二分類 多分類

怎麼樣把兩類的分類的模型推廣到多類上?答 a.一對多法 one versus rest,簡稱ovr svms 訓練時依次把某個類別的樣本歸為一類,其他剩餘的樣本歸為另一類,這樣k個類別的樣本就構造出了k個svm。分類時將未知樣本分類為具有最大分類函式值的那類。b.一對一法 one versus on...

二分類實現多分類

很多分類器在數學解釋時都是以二分類為例,其數學推導不適用於多分類,模型本身也只能用於二分類,如svm,adaboost 但是現實中很多問題是多分類的,那這些模型還能用嗎 改變這些模型的原理,重新推導數學公式,然後 實現。這種方法一般不可取,難度大,而且很麻煩 也叫一對其餘法 假設有n個類,每次把乙個...