機器學習 線性回歸

2021-10-03 16:44:47 字數 1510 閱讀 1204

線性回歸是利用數理統計中回歸分析,來確定兩種或兩種以上變數間相互依賴的定量關係的一種統計分析方法,運用十分廣泛。其表達形式為y = w』x+e,e為誤差服從均值為0的正態分佈。

回歸分析中,只包括乙個自變數和乙個因變數,且二者的關係可用一條直線近似表示,這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個或兩個以上的自變數,且因變數和自變數之間是線性關係,則稱為多元線性回歸分析。

我們所採用的擬合方程為最小二乘法,可以計算出對於y=bx+a的直線。

可以計算出對於y=bx+a的直線。同時可以表示為y = x.t*w , x = [x0 x1].t , w = [b w].t;

其原理為真實值與**值的差值

一、匯入相關模組

import pandas as pd

import matplotlib.pyplot as plt

import numpy as np

import random

二、生成資料集

x,y=

,for i in

range(1

,100):

[1,2

*(i+random.uniform(

-0.3

,0.3))

+3+random.random()]

)[i+random.uniform(-5

,5)]

)x = np.matrix(x)

y = np.matrix(y)

三、視覺化資料,觀察變化特性

四、計算引數矩陣

xtx = x.t*x;

if(np.linalg.det(xtx)==0

):#判斷行列式是否等於0,如果等於0則不可逆,求偽逆

ws = np.linalg.pinv(xtx)

*(x.t*y)

else ws = xtx.i *

(x.t*y)

其中依據的數學公式為:

五、繪製結果影象

yhat = x*ws;

#計算**的y值

通過觀察影象,擬合效果還是相當不錯的。但是對於大多數模型,還需要細化和修改。

機器學習 線性回歸

可以說基本上是機器學習中最簡單的模型了,但是實際上其地位很重要 計算簡單 效果不錯,在很多其他演算法中也可以看到用lr作為一部分 先來看乙個小例子,給乙個 線性回歸是什麼 的概念。圖來自 2 假設有乙個房屋銷售的資料如下 面積 m 2 銷售價錢 萬元 123 250 150 320 87 160 1...

機器學習(線性回歸)

在機器學習中,回歸 分類和標註共同構成了監督學習技術。監督學習 supervised learning 是機器學習在工業界應用最廣的乙個領域分支。在學術界中也是研究最多的領域之一。大家都知道的資料探勘十大經典演算法中,監督學習技術佔據6席。方法 自變數 特徵 因變數 結果 關係 回歸演算法是試圖採用...

機器學習 線性回歸

line fitter linearregression 建立模型 line fitter.fit temperature,sales 傳入引數 sales predict line fitter.predict temperature 模型 直線 直線上會有loss 計算loss時 要使用平方距離...