第三章 線性模型

2021-08-03 20:09:20 字數 1273 閱讀 1392

線性模型(linear mode)試圖學得乙個通過屬性的線性組合來進行**的函式: f(

x⃗ )=

ω1x1

+ω2x

2+..

.+ωd

xd+b

向量形式: f

(x⃗ )

=ω⃗ t

x⃗ +b

其中 ω

⃗ =(ω

1;ω2

;...

;ωd)

; x⃗ 

(x1;

x2;.

..;x

d)為由d個屬性描述的示例, x

i 是 x

⃗  在第 i

個屬性上的取值。

線性模型形式簡單,有豐富的變化,易於建模,並且有很好的可解釋性(comprehensibility)

對於給定資料集d=

(x1,

y1),

(x2,

y2),

..,(

xm,y

m)。「線性回歸」(linear regression)試圖學得乙個線性模型以盡可能準確**實值輸出標記即 f

(xi)

=ωtx

i+b ,使得 f

(xi)

≃yi ,這稱為「多元線性回歸」(multivariate linear regression)。

對於二分類任務,其輸出標記y∈

,需要將實值z=

ωtx+

b 轉換為0/1值。

線性判別分析(linear discriminant analysis,簡稱lda)是一種經典的線性學習方法。

對於多分類問題,基本策略是利用二分類學習器來解決多分類問題。

ecoc

ecoc編碼對分類器的錯誤有一定的容忍和修正能力。一般對同乙個學習任務,ecoc編碼越長,糾錯能力越強。對同等長度的編碼,理論上任意兩個類之間的編碼距離越遠,則糾錯能力越強。

ecoc工作過程

編碼矩陣(coding matrix)

西瓜書 第三章 線性模型總結

1 線性組合的基本形式是什麼?向量形式怎麼表示?2 線性模型與非線性模型之間有什麼關係?如何通過現象模型得到非線性模型?1 對資料處理 這裡指對離散屬性的量化 例如 身高 的 高 低 可轉化為 身高 的 高 中 低 可轉化為 瓜類 的 西瓜 南瓜 黃瓜 可轉化為,注 若將為無序屬性連續化,則會不恰當...

機器學習 周志華 第三章 線性模型

線性模型檢視學的乙個通過屬性的線性組合來進行 的函式。如公式3 1所示。外鏈轉存失敗 img znxwdron 1564968507771 3d w 1x 1 w 2x 2 w dx d b 它可以用向量形式改寫,如公式3 2所示。外鏈轉存失敗 img kiy4xxqu 1564968472267 ...

第三章 線性表

一 順序表的儲存 include.h using namespace std const int maxsize 100 typedef int datatype typedef struct seqlist 二 順序表的操作 初始化順序表 void initlist seqlist l 建立順序表...