損失函式VS評估指標

2022-01-09 22:36:03 字數 1241 閱讀 6828

在利用機器學習模型解決問題時,涉及到模型構建以及模型評估時,存在兩個重要的概念:

損失函式

評估指標

本文對二者做一簡要的明晰。

機器學習多數演算法都需要最大化或最小化乙個函式,即「目標函式」。一般把最小化的一類函式稱為「損失函式」。

損失函式用於模型構建中(部分簡單模型構建不需要損失函式,如knn),所以它用於指導模型的生成。

回歸型別常用損失函式

平均絕對值損失(mae,l1損失)

平方損失(mse,l2損失)

huber損失

分類型別常用損失函式

交叉熵損失

指數損失

評估機器學習演算法模型,有些問題中損失函式可以直接作為評價指標(如回歸問題中,均方誤差(mse)既可以用來指導模型構建,又可以在模型完成後評估模型效能)

評估指標用於模型構建後,所以它用於評價模型效能。

回歸型別常用評估指標

平均絕對誤差(mean absolute error)

均方誤差(mean square error)

根均方誤差(root mean square error)

r squared

分類型別常用評估指標

混淆矩陣

accuracy(準確率)

precision(精準率)

recall(召回率)

roc-auc

p-r曲線

假設某同學備戰高考,他給自己定下了乙個奮鬥的方向,即每週要把自己的各科總成績提高5分;經過多年的準備,終於在高考中取得了好成績(710分,總分750),被北大錄取。

分析上面的例子,該同學「每週要把自己的各科總成績提高5分」這個指導原則相當於目標函式,在這個指導原則的指引下,想必該同學的總分會越來越高,即模型被訓練的越來越好。

最終,該同學高考成績優異,相當於模型的測試效果良好,至於用從哪個角度評價這名同學,可以用其高考總分與750分的差距來衡量,也可以用其被錄取的大學的水平來衡量,這就如同模型的評估指標是多種多樣的,比如分類問題中的準確率、召回率等。

當然,模型的評估指標多樣,模型的損失函式也是多樣的;上例中,該同學可以將「每週要把自己的各科總成績提高5分」作為指導原則,也可將「每週比之前多學2個知識點」作為指導原則。

另外,如果該同學將「每週模擬高考總分與750分的差距」同時作為指導原則與評價角度,則類似於線性回歸模型將「mse均方誤差」同時作為損失函式與評估指標。

上例中,備考的「指導原則」相當於「損失函式」,「評價角度」相當於「評估指標」,該同學相當於乙個機器學習模型。

sklearn 分類器評估指標,損失函式

分類器評估指標 1.精確率 accuracy score函式計算分類準確率 返回被正確分類的樣本比例或者數量 當多標籤分類任務中,該函式返回子集的準確率,對於給定的樣本,如果 得到的標籤集合與該樣本真正的標籤集合吻合,那麼subset accuracy 1否則為零 import numpy as n...

函式指標VS指標函式 陣列指標VS指標陣列

定義乙個函式 void fuc1 int a 宣告函式指標 int fucptr int 函式指標fucptr指向函式fuc1 fucptr fuc1 呼叫函式指標 fucptr 10 int array1 10 定義乙個陣列 int arrayptr 10 定義乙個陣列指標 arrayptr ar...

損失函式 損失函式 Hinge

本文討論hinge損失函式,該函式是機器學習中常用的損失函式之一。在機器學習中,hinge loss是一種損失函式,它通常用於 maximum margin 的分類任務中,如支援向量機。數學表示式為 其中 表示 輸出,通常都是軟結果 就是說輸出不是0,1這種,可能是0.87。表示正確的類別。其函式影...