支援向量機數學原理推導

2021-10-01 17:04:26 字數 680 閱讀 6825

將支援向量機轉換為數學模型,推導其計算過程,其中主要的步驟概括如下:

1.分類超平面的概念

2.間隔和幾何間隔之間的區分

3.求解目標為,正負例中距離分類超平面最近的幾何距離最大化,使得分類最可靠,對雜訊的適應性更強,求解過程中,往往固定間隔為1,求幾何間隔1/||w||的最大值,即最小化||w|。

4.要求所有樣品與分類超平面的間隔大於設定好的固定間隔(即為1),形成最小化||w||時的約束條件(不等式),將約束轉換成<=0形式

5.滿足kkt約束條件,構造關於w和a的拉格朗日函式,a為拉格讓日乘子,a>=0,a乘以約束函式=0(敲公式太麻煩了,推導過程中有詳細寫出)

6.將原問題轉換成其對偶問題,更好求解(需滿足上述所述的一系列條件才可)

7.固定a,求目標函式最小值對應的w(可用a表示)

8.將w用a表示代入原拉格朗日函式中,轉換成僅與a有關的函式,求解目標函式最大值時的a(用到smo演算法,推導過程沒有具體寫出)

9.將a帶回w的表示式中,求得w。

10.根據截距或者約束條件求得b,訓練過程完成。

ps:最終模型僅與對應拉格讓日乘子ai大於0的樣品(即支援向量)有關,ai=0的樣品對模型沒有影響

推導過程如下圖:

支援向量機數學推導

svm的數學推導真的是我一生的痛,看看覺得很懂,但是過了3秒,就在糾結,為什麼可以這樣換算?今天早上在看整合學習的時候,講課的老師一直說svm svm svm。嗯,沒錯,我又開始回想svm的數學推導過程,然後,我的乙個早上就這樣沒了。這次趁著剛看完印象深刻,我想將剛釐清的思路寫下來。僅包括如何推出最...

支援向量機原理推導(二)

上一節我們講述了間隔公式是如何得到的,這一節講述要得到最大間隔時的分割超平面所要的條件是什麼。在上圖中我們可以看到間隔為marginb 2,但是我們很容易發現黑線還可以向上移動從而得到更大的間隔,當移動到是最上面紅線與第乙個men資料點相交時便得到最大間隔了,如下圖 下面我們就根據這個思路求出得到最...

支援向量機(SVM)公式推導

假設一堆訓練資料的正負樣本標記為 假設有乙個超平面h 可以通過此線性方程劃分,同時存在兩個平行於 h的超平面h1和 超平面h 能夠正確分類,也就是滿足如下約束 即 離 h最近的正負樣本剛好分別落在h1和 h2上使等號成立,它們就是支援向量。而超平面h1和 h2的距離可知為 注 線到線的距離公式求得 ...