機器學習 回歸評估指標

2021-09-26 00:11:41 字數 3228 閱讀 7772

1.2 均方誤差 mse

1.3 判定係數 r^2

參考資料

機器學習 | 目錄

機器學習 | 分類評估指標

mae:(mean absolute error)平均絕對誤差,從圖形上看,mae 就相當於將資料點與擬合之間之間的距離絕對值之和。

mae 缺點:絕對值函式是不可微分的,這不利於使用諸如梯度下降方法,因此我們將使用更常見的 mse 均方誤差。

from sklearn.metrics import mean_absolute_error

from sklearn.linear_model import linearregression

classifier = linerregression()

classifier.fit(x, y)

guesses = classifier.predict(x)

error = mean_absolute_error(y, guesses)

mse:(mean squared error)均方誤差,從圖形上看,為資料點到擬合直線之間的距離的平方。

mse 和 mae 有侷限性:同乙個演算法模型,解決不同的問題,不能體現此模型針對不同問題所表現的優劣。因為不同實際應用中,資料的量綱不同,無法直接比較**值,因此無法判斷模型更適合**哪個問題,因此我們將使用衡量線性回歸最好的指標:r

2r^2

r2。[1]

from sklearn.metrics import mean_squared_error

from sklearn.linear_model import linearregression

classifier = linerregression()

classifier.fit(x, y)

guesses = classifier.predict(x)

error = mean_squared_error(y, guesses)

為了擬合一組資料,最簡單的方法就是取這組資料的均值並作直線,已知這個簡單模型的 mse 大於線性回歸的 mse ,然而大多少呢?因此類似於假設檢驗的檢驗統計量,我們將線性回顧的 mse 除以簡單模型的 mse,用1減去這個分數,就得到了r

2r^2

r2:(3)r2

=1−∑

i=1m

(y^(

i)−y

(i))

2∑i=

1m(y

ˉ−y(

i))2

r^2=1-\frac^m(\hat^-y^)^2}^m(\bar-y^)^2} \tag

r2=1−∑

i=1m

​(yˉ

​−y(

i))2

∑i=1

m​(y

^​(i

)−y(

i))2

​(3)

(4)=1−

(∑i=

1m(y

^(i)

−y(i

))2)

/m(∑

i=1m

(yi−

yˉ)2

)/m\quad\quad\quad=1-\frac^m(\hat^-y^)^2)/m}^m(y^-\bar)^2)/m} \tag

=1−(∑i

=1m​

(yi−

yˉ​)

2)/m

(∑i=

1m​(

y^​(

i)−y

(i))

2)/m

​(4)

(5)=1−

mse(

y^,y

)var

(y)=1-\frac, y)} \tag

=1−var

(y)m

se(y

^​,y

)​(5

) 如果這個回歸模型不太好,則兩個 mse 將很接近,則r

2r^2

r2將趨於0;

如果這個回歸模型很好,則回歸模型的 mse 應比簡單模型的 mse 小得多,因此r

2r^2

r2將趨於1

若r 2≤

0r^2 \le 0

r2≤0

因此,r

2r^2

r2越接近於1,則說明回歸模型越好;r

2r^2

r2越接近於0,則說明回歸模型越不好。

0.9078571428571429
[1] volcano!.機器學習:衡量線性回歸法的指標(mse、rmse、mae、r squared)[eb/ol]. 2018-05-29.

機器學習 回歸評估指標

1.2均方誤差 mse 1.3判定係數 r 2 參考資料 mae mean absolute error 平均絕對誤差,從圖形上看,mae 就相當於將資料點與擬合之間之間的距離絕對值之和。mae 缺點 絕對值函式是不可微分的,這不利於使用諸如梯度下降方法,因此我們將使用更常見的 mse 均方誤差。f...

機器學習 評估指標

2.1 錯誤率與精度 m個樣本,有a個分錯。錯誤率 e a m 精度 acc 1 a m 2.2 查準率 查全率和f1 tp 真正例 tn 真反例 fp 假正例 fn 假反例 查準率 p tptp fp 查全率 r tptp fn f1是查準率和查全率的調和平均數 1f 1 12 1p 1r 即 f...

機器學習 模型評估指標

from sklearn.metrics import accuracy score print 準確率 accuracy score y true,y pred,normalize true print 正確分類的數量 accuracy score y true,y pred,normalize ...