SVM中,高斯核為什麼會把原始維度對映到無窮多維

2021-08-19 17:39:54 字數 424 閱讀 7288

我還是自己寫一下我的理解吧,

對於高斯核為什麼可以將資料對映到無窮多維,我們可以從泰勒展開式的角度來解釋,

核函式的本質

上面說了這麼一大堆,讀者可能還是沒明白核函式到底是個什麼東西?我再簡要概括下,即以下三點:

實際中,我們會經常遇到線性不可分的樣例,此時,我們的常用做法是把樣例特徵對映到高維空間中去(如上文2.2節最開始的那幅圖所示,對映到高維空間後,相關特徵便被分開了,也就達到了分類的目的);

但進一步,如果凡是遇到線性不可分的樣例,一律對映到高維空間,那麼這個維度大小是會高到可怕的(如上文中19維乃至無窮維的例子)。那咋辦呢?

此時,核函式就隆重登場了,核函式的價值在於它雖然也是將特徵進行從低維到高維的轉換,但核函式絕就絕在它事先在低維上進行計算,而將實質上的分類效果表現在了高維上,也就如上文所說的避免了直接在高維空間中的複雜計算。

SVM為什麼需要核函式

生存?還是毀滅?哈姆雷特 可分?還是不可分?支援向量機 之前一直在討論的線性分類器,器如其名 汗,這是什麼說法啊 只能對線性可分的樣本做處理。如果提供的樣本線性不可分,結果很簡單,線性分類器的求解程式會無限迴圈,永遠也解不出來。這必然使得它的適用範圍大大縮小,而它的很多優點我們實在不原意放棄,怎麼辦...

機器學習 SVM(核函式 高斯核函式RBF)

1 格式 2 多項式核函式 對傳入的樣本資料點新增多項式項 新的樣本資料點進行點乘,返回點乘結果 一維特徵的樣本,兩種型別,分布如圖,線性不可分 為樣本新增乙個特徵 x2 使得樣本在二維平面內分布,此時樣本在 x 軸公升的分布位置不變 如圖,可以線性可分 3 優點 特點 一般將原始樣本變形,通常是將...

SVM演算法及高斯核函式 漢語版

svm 1.介紹 支援向量機svm是一種有監督的機器學習演算法,是乙個非常經典且高效的分類模型。它的基本模型是定義在特徵空間上的間隔最大的線性分類器,間隔最大使它有別於感知機 svm還包括核技巧,這使它成為實質上的非線性分類器。svm的的學習策略就是間隔最大化,可形式化為乙個求解凸二次規劃的題,也等...