SVM BP了解以及效能比較

2021-07-04 22:33:01 字數 1473 閱讀 4782

svm

的了解

通俗的說svm 就是一種二分類器,特徵空間上的間隔最大化的分類器,目的是從特徵學習中取出乙個0/1分類模型,對於二分類問題y只取兩個值,目標是求乙個超平面,而且

直觀上說超平面是分開兩類資料的直線,所以求的最大間隔就是就是取函式間隔與幾何間隔。為了使的分類的精度高,最大化間隔值,因此我們要找到最大的間隔值引出了最大間隔分類器定義為

以上的說法只能解決線性問題,若是遇到非線性的問題,這就要引入核函式,核函式就是把非線性的問題對映為線性的,通過引入核函式,可將隱式得到的非線性資料對映到高維空間中,而不增加引數的個數。建立非線性學習器的2個步驟是:1.使用非線性對映,將資料對映到f。2.在特徵空間中使用線性分類器。核函式可以分為這麼幾類,多項式核函式,斯核函式,線性核函式。他們的本質是遇到高維不可分的情況,可以對映到高維空間,解決對映中的維數**,價值就在他雖然是低維轉換到了高維,但是計算還是低維的。

svm允許資料在一定的程度中偏離一下超平面。

svm本質上是乙個分類器,用

svm用於文字分類,影象分類,生物序列排序,資料分析,字元識別。 2.

bp神經網路

bp神經網路是一種按誤差逆傳播演算法訓練的多層前饋網路,是目前應用最廣泛的神經網路模型之一。bp網路能學習和存貯大量的輸入-輸出模式對映關係,而無需事前揭示描述這種對映關係的數學方程。它的學習規則是使用最速下降法,通過反向傳播來不斷調整網路的權值和閾值,使網路的誤差平方和最小。bp神經網路模型拓撲結構包括輸入層、隱層和輸出層。

bp演算法由資料流的前向計算(正向傳播)和誤差訊號的反向傳播兩個過程構成。正向傳播時,傳播方向為輸入層→隱層→輸出層,每層神經元的狀態只影響下一層神經元。若在輸出層得不到期望的輸出,則轉向誤差訊號的反向傳播流程。通過這兩個過程的交替進行,在權向量空間執行誤差函式梯度下降策略,動態迭代搜尋一組權向量,使網路誤差函式達到最小值,從而完成資訊提取和記憶過程。

通俗的講就是乙個加減乘除的做法。

bp網路首先要訓練,使得網路可以記憶和** 1.

初始化網路 2.

計算隱含層的輸出 3.

輸出層的計算 4.

誤差計算 5.

權值計算 6.

閾值計算 7.

判斷迭代

這就是bp演算法的流程。

比較svm、bp、elm的優缺點

elm 的優缺點:

數學建模簡單,可以求得全域性的最優解,泛化效能好

由於訓練的資料小,也通過與bp的比較,沒有的出明顯缺點,儘管網上對elm有很大的爭議,我也沒找出來。

svm的優缺點:

非線性對映理論基礎,利用核函式代替了高維空間的對映,最大化間隔是核心,支援向量是訓練的結果,最終結果是少量的向量決定的,可以提出較大的樣本,所以有較小的魯棒性。

不足:對大規模訓練難以實施,解決多分類有很大的困難。

bp 的優缺點:

可實現非線性對映,有自學能力,有推廣概括能力。

不足時採用梯度下降法,速度慢,有可能進入區域性最小值而訓練失敗,新加入的樣本有影響,可能會出現欠學習或過學習。

redis memcache 效能比較

from redis和memcache非常像的,都是key,value的方式,將資料存放記憶體中。最近在學習redis,在網上看了一些這方面的資料,有三種觀點 1,redis讀寫記憶體比memcache快 2,memcache讀寫記憶體比redis快 3,memcache讀寫記憶體比redis快,但...

apache resin ngnix 效能比較

靜態頁面測試,靜態頁面包括css,js,img ab c 20 n 30 併發測試 高數值的也測過,結論一致 resin2.17 平均響應時間為0.521ms nginx 0.7.65 平均響應時間為1.042ms 少許幾次小於1.042 apache2.0 平均響應時間為最低1.042ms 在re...

tomcat效能比較

tomcat的四種基於http協議的connector效能比較 我們姑且把上面四種connector按照順序命名為 nio,http,pool,niop 為了不讓其他因素影響測試結果,我們只對乙個很簡單的jsp頁面進行測試,這個頁面僅僅是輸出乙個hello world。假設位址是 http tomc...