機器學習總結之 線性分類器與非線性分類器

2021-08-28 04:30:23 字數 625 閱讀 2481

1、線性分類器

1.1線性分類器的定義

線性分類器就是用乙個「超平面」將正、負樣本隔離開,如:

(1)二維平面上的正、負樣本用一條直線來進行分類;

(2)三維立體空間內的正、負樣本用乙個平面來進行分類;

(3)n維空間內的正負樣本用乙個超平面來進行分類。

1.2常見的線性分類器

常見的線性分類器有:lr,貝葉斯分類,單層感知機、線性回歸,svm(線性核)等。

1.3線性分類器的優缺點

線性分類器速度快、程式設計方便且便於理解,但是擬合能力低。

2、非線性分類器

2.1非線性分類器的定義

非線性分類器就是用乙個「超曲面」或者多個超平(曲)面的組合將正、負樣本隔離開(即,不屬於線性的分類器),如:

(1)二維平面上的正、負樣本用一條曲線或折線來進行分類;

(2)三維立體空間內的正、負樣本用乙個曲面或者折面來進行分類;

(3)n維空間內的正負樣本用乙個超曲面來進行分類。

2.2常見的非線性分類器

常見的非線性分類器:決策樹、rf、gbdt、多層感知機、svm(高斯核)等。

2.3非線性分類器的優缺點

非線性分類器擬合能力強但是程式設計實現較複雜,理解難度大。

機器學習之線性分類SVM

coding utf 8 created on fri nov 30 21 05 40 2018 author muli import matplotlib.pyplot as plt import numpy as np from sklearn import datasets,cross val...

機器學習之監督標題學習 線性分類

機器學習之監督標題學習 線性分類 一,logistic回歸 邏輯回歸 通過不斷修正縮小誤差最終得到準確的模型,整個過程中需要不斷回歸,直到達到指定的次數或者達到設定的精度 二,sigsigmoid函式 啟用函式sigmoid函式是一種階躍函式,輸出範圍在 0,1 在回歸問題中,我們需要找到最佳的回歸...

機器學習(一) 快速入門線性分類器

x x1,x2,xn 代表n維特徵列向量,w w1,w2,wn 代表對應的權重 係數 coeffient 同時為了避免其過座標原點這種硬性假設,增加乙個截距 intercept b。f取值範圍分布在整個實數域中.線性其實就是一系列一次特徵的線性組合,在二維空間中是一條直線,在三維空間中是乙個平面。要...