得分函式與損失函式

2021-10-04 01:25:32 字數 1262 閱讀 3250

得分函式就是對於給定的乙個輸入,通過計算,得到這個輸入屬於每種類別的得分。比如我們現在有三個類別:小貓、小狗和青蛙,對於一張給定的,計算出這個是小貓的得分,是小狗的得分以及是青蛙的得分。

對於中間的計算過程:

其中w和b為權重引數。下面介紹如何計算:

這裡我們假設小貓的為2x2的矩陣由四個畫素點組成,我們將2x2的矩陣變成乙個列向量的形式,也就是我們的xi,由於最後的分類有三種,所以我們的權重引數w就是乙個3x4 的矩陣,其中3代表類別個數,4代表畫素點的個數,根據公式來計算類別得分。

我們先來看w矩陣,w中分數的大小相當於該畫素點的重要程度,正值代表積極的影響,負值代表著消極的影響。對於背景為負值,貓的主體為正值。對於每乙個具體的值怎麼來的在之後的文章中會詳細介紹。

最後我們想得到的是屬於某個類別的得分值。

如果最後的結果分辨錯了,我們需要告訴模型它**錯了,怎麼告訴模型呢?這裡就是使用損失函式。通過損失函式進行迭代、優化分類效果。損失函式值越大代表著分類的效果越差,損失函式值越小代表著分類效果越好。希望損失函式值為零0,

下面我們來介紹一下損失函式:

我們根據得分函式計算出每個輸入的類別得分如下:

我們只有類別的得分並不能評判分類效果,損失函式便是用來評估分類效果的好壞程度。對於上圖中,小貓的輸入,最後的分類得分分別為cat:3.2、car:51、frog:-1.7,根據得分我們可以看到,這個輸入car的得分最高,很明顯這裡就**錯誤了,所以我們要通過損失函式來告訴模型。這裡我們使用svm的損失函式來進行介紹:

對於小貓的這個輸入來說,用的正確分類的分3.2與其它錯誤分類的得分5.1和-1.7求差值,再把求得的差值和0進行對比,如果大於0就加在最終的loss值上,這裡的+1這個數值代表了我們的滿意程度,值越大代表要求越高。

所以小貓的損失函式=max(0,5.1-3.2+1)+max(0,-1.7-3.2+1)=max(0,2.9)+max(0,-3.9)=2.9+0=2.9。

對於**結果為frog時,得分為-1.7和cat的得分相比,這時的**結果是正確的,所以值為0。

損失函式與評價函式

4.1 學習目標 掌握常見的評價函式和損失函式dice iou bce focal loss lov sz softmax 掌握評價 損失函式的實踐 4.2 tp tn fp fn 在講解語義分割中常用的評價函式和損失函式之前,先補充一 tp 真正例 true positive tn 真反例 tru...

損失函式 損失函式 Hinge

本文討論hinge損失函式,該函式是機器學習中常用的損失函式之一。在機器學習中,hinge loss是一種損失函式,它通常用於 maximum margin 的分類任務中,如支援向量機。數學表示式為 其中 表示 輸出,通常都是軟結果 就是說輸出不是0,1這種,可能是0.87。表示正確的類別。其函式影...

損失函式 代價函式與目標函式

損失函式 loss function 是定義在單個樣本上的,用來評價模型的 值和真實值不一樣的程度,指乙個樣本的誤差。代價函式 cost function 定義在整個訓練集上的,是指所有樣本誤差的平均,也就是所有損失函式值的平均。目標函式 object function 指最終需要優化的函式,一般來...