機器學習之線性回歸

2022-03-03 19:23:09 字數 899 閱讀 3542

一。概念解析:

有監督學習:對於x1,x2,x3明確知道其對應的label值

無監督學習:對於x1,x2,x3不知道其對應的label值

分類演算法:對於x1,x2,x3,x4作為特徵值,當輸入到演算法中得出有限個結果。比如對於銀行借錢,輸入年齡,性別,信譽等值 銀行反饋借款或者不借款為分類指標。

回歸演算法:對於x1,x2,x3,x4作為特徵值,

當輸入到演算法中得出乙個區間範圍

。舉例:比如對於銀行借錢,輸入年齡,性別,信譽等值對於借錢的範圍為1萬~10萬。

舉例:

ps:y的值與x1,x2相關,第二個函式當x0=1時即可等價於上式。θtx代表轉置,行向量*列向量。

ps:每個資料點y((i)針對於模擬方程的誤差ε(i),假設兩個條件:

1.所有誤差(每個樣本點)服從高斯分布(有一定規律,沒有規律也不能模擬)

2.高斯分布(u,θ2)中u(均值)為0,方差為θ2

的高斯分布,其中均值為0 是因為y=θ0+θ1x+θ2x中一定能找到所有誤差相加截距為0的線。

ps:公式一大推結果θ值可以求得

機器學習之線性回歸

訓練樣例 x y 輸入變數 特徵 x ps n 1行,1 列 輸出變數 目標變數 y訓練樣例總數 m 特徵維度 n第 i 個訓練樣例 x i y i 所有訓練樣例的輸入變數組成的矩陣 x ps m行,n 1 列,每行是 x i t 所有訓練樣例的輸出變數組成的矩陣 y ps m行,1 列 下表是某地...

機器學習之線性回歸

線性回歸就是用線性方程去擬合一組資料,x 的最高端是1,用方程可以表示為 h x 0 1x1 n xn我們令 x0 1則上式可以改寫為 h x i 0n ixi tx 既然是擬合的模型,則肯定會存在不符合該模型的點,第 i 個點的真實值與模型 的值之間的差稱為誤差 e h x i y i 假設總共有...

機器學習之線性回歸

線性回歸分析 regression analysis 其資料集是給定乙個函式和他的一些座標點,然後通過回歸分析的演算法,來估計原函式的模型,求得最符合這些資料集的函式解析式。然後我們就可以用來預估未知資料,輸入乙個自變數便會根據這個模型解析式輸出因變數,這些自變數就是特徵向量,因變數即為標籤,而且標...