機器學習問與答(四) 支援向量機學習(下)

2021-10-23 02:37:02 字數 891 閱讀 7817

問題五:

為什麼要滿足這個不等式約束?

問題六:

二次規劃演算法有哪些?序列最小化優化演算法具體是什麼樣的?

二次規劃(qp):是求解一類特殊的數學優化問題的過程,它是乙個線性約束的二次優化問題,即多個變數的二次函式在這些變數上受線性約束的優化(最小化或最大化)問題。二次規劃是一類特殊的非線性規劃。

二次規劃求解方法:拉格朗日方法、lemke方法、內點法、有效集法、橢球演算法等。

smo詳見:

問題七:

怎樣選擇合適的核函式?

在選用核函式的時候,如果我們對我們的資料有一定的先驗知識,就利用先驗來選擇符合資料分布的核函式;如果不知道的話,通常使用交叉驗證的方法,來試用不同的核函式,誤差最小的即為效果最好的核函式,或者也可以將多個核函式結合起來,形成混合核函式。

在吳恩達的課上,也曾經給出過一系列的選擇核函式的方法:

如果特徵的數量大到和樣本數量差不多,則選用lr或者線性核的svm;

如果特徵的數量小,樣本的數量正常,則選用svm+高斯核函式;

如果特徵的數量小,而樣本的數量很大,則需要手工新增一些特徵從而變成第一種情況。

出處:

機器學習演算法(四) 支援向量機

一 介紹 1 svm 分類演算法 1 分類的決策邊界稱為超平面,在超平面一側的所有資料屬於某一類,在另一側的所有資料屬於另一類。2 希望找到離超平面最近的點,確保它們離超平面的距離盡可能的遠。這裡點到超平面的距離被稱為間隔 margin 3 支援向量 support vector 就是指離分隔超平面...

機器學習(三) 支援向量機

支援向量機是一種判別模型,它構建乙個超平面使得距離這個超平面最近的點的距離最大。支援向量機的任務是在較低的模型泛化誤差下尋找乙個合適的超平面。如果超平面的函式是如下表示式 那麼超平面與資料點 label 1 之間的幾何關係為 定義 幾何間隔和函式間隔 因此,轉換為帶約束的優化問題 我們無法保證資料是...

機器學習筆記(二 支援向量機)

本次筆記基於mooc平台浙江大學的機器學習課程 對於乙個訓練樣本集,i 1 n,若存在 w,b 使得使得滿足下式,則是線性可分問題。要求這樣的乙個超平面 在二維平面中是一條直線 則要滿足以下公式 證明過程如下 首先要確認兩個事實,即 和 則可以根據線性可分問題的滿足式,用a來縮放 w,b 使得找到某...