(二)SVM的核心問題

2021-10-04 18:38:10 字數 858 閱讀 8717

九、為什麼svm對缺失資料敏感

十、svm的優缺點

svm是一種二分類模型。它的基本思想是在特徵空間中尋找最大的分離超平面使得資料二分類。具體來講,有三種情況(不加核函式的話就是個線性模型,加了核函式就是乙個非線性模型):

當訓練資料線性可分時,存在無窮個分離超平面可以將兩類資料正確分開。

有兩個目標:

svm是乙個有約束條件的最優化問題,用拉格朗日函式來解決。

在滿足slater定理的時候,且過程滿足kkt條件的時候,原問題轉換成對偶問題

先求內部最小值,對w和b求偏導並令其等於0

不管直接在原特徵空間,還是在對映的高維空間,我們都假設樣本是線性可分的。雖然理論上我們總能找到乙個高維對映使資料線性可分,但在實際任務中,尋找乙個合適的核函式很難。此外,由於資料通常由雜訊存在,一味追求資料線性可分可能會使模型陷入過擬合,因此,我們放寬對樣本的要求,允許少量樣本分類錯誤。給之前的目標函式加上乙個誤差,將相當於允許原先的目標出錯,引入鬆弛變數。鬆弛變數用hinge loss計算。

核函式就是乙個函式,接受兩個變數,這兩個變數是在低維空間中的變數,而核函式求得值等於將兩個低維空間中的向量對映到高維空間後的內積。

這裡說的缺失資料是指缺失某些特徵資料(向量資料不完整)。svm沒有處理缺失值的策略,而svm希望樣本在特徵空間中線性可分,所以特徵空間的好壞對svm的效能很重要。缺失特徵資料將影響訓練結果的好壞

優點

關於svm,面試官們都怎麼問

svm 高頻面試題

Redis核心問題

幾個redis的核心問題 1 怎麼實現redis高可用集群?2 redis為什麼採用hash slot 而不用一致性hash演算法?3 redis分布式鎖存在什麼問題?怎麼解決?4 為什麼redis可以採用單執行緒?5 怎麼解決熱點資料問題?6 有哪些記憶體淘汰的方式?7 怎麼解決記憶體橫向擴充套件...

32,64核心問題

smitty system 是這樣的只要把aio開啟就可以了在smitty裡面就可以 你要安裝bos.64bit這個檔案集!首先用如下命令確定當前的所使用的kernel ls l unix lrwxrwxrwx 1 root system 21 may 06 2001 unix usr lib bo...

分析核心問題的工具

1.objdump objdump d l vmlinux txt objdump help 看常用的引數 d disassemble 2.gdb gdb tool 並不是只對 應用程式的 gdb vmlinux gdb c address 可以看到具體的函式和檔名 gdb disassemble ...