支援向量機（support vector machine, svm）是一類按監督學習（supervised learning）方式對資料進行二元分類的廣義線性分類器（generalized linear classifier），其決策邊界是對學習樣本求解的最大邊距超平面（maximum-margin hyperplane），svm有兩個重要引數c(懲罰因子)和gamma(核函式引數)但對於這兩個引數的確定，人為去尋找比較困難，並且很難找到最優的引數。而libsvm中有乙個grid.py指令碼，可以自動尋找出最優的引數。主要修改svm-tain.c和gnuplot的路徑，linux預設的位址就是對的。windows系統修改為svmtain.exe（libsvm/windows）和gnuplot.exe的路徑。
在tools下開啟命令列執行grid.py：python grid.py heart_scale
heart_scale是訓練資料(有一定格式)
關於libsvm的PCA和 網格尋優
寫在前面 這篇部落格寫的很亂，只是先大致記錄一下，後期行得通再慢慢補充。之前稍微整理了libsvm的內容，但是還有很多沒搞懂，最近因為 思路卡住了，所以又反過來弄libsvm 因為看人家的 偏應用的方面，流程都非常完整，特徵提取以後，一般有降維，有引數尋優，所以就很想實現這些功能，因為對比實驗真的一...
超參尋優使用簡介
在機器學習裡，我們本質上是對損失函式進行最優化的過程。過程類似下面的曲面，演算法試圖去尋找損失曲面的全域性最小值，當然損失曲面實際中不一定是凸曲面，可能會更加凹凸不平，存在多個區域性高低點。我們還是回到主題，講述的重點在於超引數尋優的意義。當我們損失曲面給定的時候，我們尋找最優點的路徑可能會有一些模...
超參尋優使用介紹
在機器學習裡，我們本質上是對損失函式進行最優化的過程。過程類似下面的曲面，演算法試圖去尋找損失曲面的全域性最小值，當然損失曲面實際中不一定是凸曲面，可能會更加凹凸不平，存在多個區域性高低點。我們還是回到主題，講述的重點在於超引數尋優的意義。當我們損失曲面給定的時候，我們尋找最優點的路徑可能會有一些模...