如果訓練樣本不是線性可分的,那麼只要樣本的屬性是有限個,就可以將其對映到高維特徵空間,使這些樣本線性可分.
(問題:為什麼要讓這些樣本線性可分?)
當對映到高維空間後,想要得到模型(function),那麼計算難度是非常大的.此時我們可以使用核函式來簡化計算.
那麼什麼樣的函式可以作為核函式呢?
只要乙個對稱函式所對應的核矩陣半正定,它就能作為核函式使用.
但是在不知道特徵對映的形式時,我們並不知道什麼樣的核函式是合適的,於是,核函式選擇成為svm的最大變數,這方面有一些經驗和一些常用核函式.
SVM中的核函式
1 核函式本質 核函式的本質可以概括為如下三點 1 實際應用中，常常遇到線性不可分的情況 針對這種情況，常用做法是把樣例特徵對映到高維空間中，轉化為線性可分問題。2 將樣例特徵對映到高維空間，可能會遇到維度過高的問題 3 針對可能的維災難，可以利用核函式。核函式也是將特徵從低維到高維的轉換，但避免了...
關於SVM核函式的選擇
今天去面試的時候，面試官問了我乙個問題 svm的核函式如何選擇？我說試試吧，答案可能也對，但這樣會浪費時間。上網搜尋了一下，andrew的說法是 1.當樣本的特徵很多時，特徵的維數很高，這是往往樣本線性可分，可考慮用線性核函式的svm或lr 如果不考慮核函式，lr和svm都是線性分類演算法，也就是說...
關於核函式和SVM的幾點思考
今天了解了一些rbf徑向基 高斯 核函式的問題，順便又了解了一下svm分類，從了解的情況來看我對核函式是什麼，為什麼要用核函式以及svm裡的結構風險最小化 structure risk minimization，簡稱 srm 也有了更加深入的了解。首先，核函式是為了解決樣本在低維不可分的問題而引入的...