SVM LR如何做多分類

2021-08-19 15:16:23 字數 835 閱讀 3454

參考文獻:西瓜書p63

先回顧基本的二項邏輯回歸

邏輯回歸通過比較兩個條件概率值的大小,將例項分到概率值大的那一類。

參考文獻 統計學習方法p80

多項邏輯回歸又稱softmax回歸

參考文獻

參考文獻:

有人會覺得對於乙個多分類問題,可以使用多個二分類來完成,對於多分類問題是直接選擇多分類的分類器還是選擇多個二分類的分類器進行疊加,在ufldl中,作者給出了這樣的解釋:取決於類別之間是否互斥。

對於乙個多分類的問題,是直接選擇多分類器直接計算還是選擇多個二分類器進行計算取決於問題中類別之間是否互斥。

是互斥的 –> 多分類器或者多個二分類器

不是互斥的 –> 多個二分類器

機器學習 邏輯回歸如何做多分類任務

如果乙個樣本只對應於乙個標籤,我們可以假設每個樣本屬於不同標籤的概率服從於幾何分布,使用多項邏輯回歸 softmax regression 來進行分類。因此,多項邏輯回歸實際上是二分類邏輯回歸在多標籤分類下的一種拓展 當存在樣本可能居於多個標籤的情況時,我們可以訓練 k個二分類的邏輯回歸分類器。第l...

如何做資料的分類?

常見的資料分類方式有2種,一種是按照資料所屬的類別進行層次分類,一種是採用關鍵字或者標籤的方式進行分類。到底哪種方式好呢?我想本身並不應該有明顯的界限,如果資料本身就不叫有層次劃分如 生物學中的種 屬 科 目等層次的分類,那麼採用層次分模擬較好 一般而言採用關鍵字的方式比較有彈性,使資料可以隸屬為多...

如何做資料的分類?

常見的資料分類方式有2種,一種是按照資料所屬的類別進行層次分類,一種是採用關鍵字或者標籤的方式進行分類。到底哪種方式好呢?我想本身並不應該有明顯的界限,如果資料本身就不叫有層次劃分如 生物學中的種 屬 科 目等層次的分類,那麼採用層次分模擬較好 一般而言採用關鍵字的方式比較有彈性,使資料可以隸屬為多...