精確率與召回率,ROC曲線與PR曲線

2021-09-01 22:48:16 字數 2224 閱讀 2018

在機器學習的演算法評估中,尤其是分類演算法評估中,我們經常聽到精確率(precision)與召回率(recall),roc曲線與pr曲線這些概念,那這些概念到底有什麼用處呢?首先,我們需要搞清楚幾個拗口的概念:

true positives,tp:**為正樣本,實際也為正樣本的特徵數

false positives,fp:**為正樣本,實際為負樣本的特徵數

true negatives,tn:**為負樣本,實際也為負樣本的特徵數

false negatives,fn:**為負樣本,實際為正樣本的特徵數

聽起來還是很費勁,不過我們用一張圖就很容易理解了。圖如下所示,裡面綠色的半圓就是tp(true positives), 紅色的半圓就是fp(false positives), 左邊的灰色長方形(不包括綠色半圓),就是fn(false negatives)。右邊的 淺灰色長方形(不包括紅色半圓),就是tn(true negatives)。這個綠色和紅色組成的圓內代表我們分類得到模型結果認為是正值的樣本。

**精確率(precision)**的定義在上圖可以看出,是綠色半圓除以紅色綠色組成的圓,是對所有**為正樣本的精確度的衡量。嚴格的數學定義如下:

p=tp / tp+fp

**召回率(recall)**的定義也在圖上能看出,是綠色半圓除以左邊的長方形,是對所有正樣本中能夠正確**為正樣本的比例的衡量,即對所有原有正樣本正確召回比例的衡量。嚴格的數學定義如下:

r=tp / tp+fn

**特異性(specificity)**的定義圖上沒有直接寫明,這裡給出,是右邊長方形去掉紅色半圓部分後除以右邊的長方形,是對所有原有的負樣本正確召回比例的衡量。嚴格的數學定義如下:

s=tn / fp+tn

有時也用乙個f1值來綜合評估精確率和召回率,它是精確率和召回率的調和均值。當精確率和召回率都高時,f1值也會高。嚴格的數學定義如下:

2 /f1=1 / p+1 / r

有時候我們對精確率和召回率並不是一視同仁,比如有時候我們更加重視精確率。我們用乙個引數β來度量兩者之間的關係。如果β>1, 召回率有更大影響,如果β<1,精確率有更大影響。自然,當β=1的時候,精確率和召回率影響力相同,和f1形式一樣。含有度量引數β的f1我們記為, 嚴格的數學定義如下:

=(1+β2)∗p∗r / β2∗p+r

此外還有靈敏度(true positive rate ,tpr),它是所有實際正例中,正確識別的正例比例,它和召回率的表示式沒有區別,即對正樣本能正確召能力的衡量。嚴格的數學定義如下:

tpr=tp / tp+fn

另乙個是1-特異度(false positive rate, fpr),它是實際負例中,錯誤得識別為正例的負例比例,即是對所有原有的負樣本的錯誤識別的比例的衡量。嚴格的數學定義如下:

fpr=fp / fp+tn

我們熟悉了精確率, 召回率和特異性,以及tpr和fpr,後面的roc曲線和pr曲線就好了解了。

有了上面精確率, 召回率和特異性的基礎,理解roc曲線和pr曲線就小菜一碟了。

以tpr為y軸,以fpr為x軸,我們就直接得到了roc曲線。從fpr和tpr的定義可以理解,tpr越高,fpr越小,我們的模型和演算法就越高效。也就是畫出來的roc曲線越靠近左上越好。如下圖左圖所示。從幾何的角度講,roc曲線下方的面積越大越大,則模型越優。所以有時候我們用roc曲線下的面積,即auc(area under curve)值來作為演算法和模型好壞的標準。

以精確率為y軸,以召回率為x軸,我們就得到了pr曲線。仍然從精確率和召回率的定義可以理解,精確率越高,召回率越高,我們的模型和演算法就越高效。也就是畫出來的pr曲線越靠近右上越好。如上圖右圖所示。

使用roc曲線和pr曲線,我們就能很方便的評估我們的模型的分類能力的優劣了。

精確率與召回率,RoC曲線與PR曲線

在機器學習的演算法評估中,尤其是分類演算法評估中,我們經常聽到精確率 precision 與召回率 recall roc曲線與pr曲線這些概念,那這些概念到底有什麼用處呢?首先,我們需要搞清楚幾個拗口的概念 true positives,tp 為正樣本,實際也為正樣本的特徵數 false posit...

精確率與召回率,RoC曲線與PR曲線

在機器學習的演算法評估中,尤其是分類演算法評估中,我們經常聽到精確率 precision 與召回率 recall roc曲線與pr曲線這些概念,那這些概念到底有什麼用處呢?首先,我們需要搞清楚幾個拗口的概念 1.tp,fp,tn,fn true positives,tp 為正樣本,實際也為正樣本的特...

精確率與召回率,RoC曲線與PR曲線

在機器學習的演算法評估中,尤其是分類演算法評估中,我們經常聽到精確率 precision 與召回率 recall roc曲線與pr曲線這些概念,那這些概念到底有什麼用處呢?首先,我們需要搞清楚幾個拗口的概念 true positives,tp 為正樣本,實際也為正樣本的特徵數 false posit...