常見的損失函式以及對應的應用場景

2021-10-04 18:46:25 字數 534 閱讀 1744

損失函式 loss function 也可稱為代價函式 cost function,用於衡量**值與實際值的偏離程度。我們機器學習的目標就是希望**值與實際值偏離較小,也就是希望損失函式較小,也就是所謂的最小化損失函式。

幾種常見的損失函式如下:

1.0-1損失 :可用於分類問題,該函式使用者衡量誤分類的數量,但是由於該函式由於是非凸的,在最優化過程中求解不方便,有階躍,不連續,所以使用不多。

2.絕對值損失:

3.平方損失:常用於線性回歸

4.對數損失log loss:常用於模型輸出每一類概率的分類器,比如邏輯斯蒂回歸。也叫交叉上損失cross-entropy loss(交    叉熵用於衡量兩個概率分布的差異性)

5.hinge損失函式:常用於svm

對於回歸問題,常用平方損失和絕對值損失

對於分類問題,常用logloss和hinge loss

logistic使用log loss 不使用平方損失的原因:

平方損失會導致損失函式是theta的非凸函式,不利於求解,因為非凸函式會存在許多的區域性最優解。

常用的損失函式以及對應鄰域

1.l1範數損失 l1loss 2.均方誤差損失 mseloss 1.交叉熵損失 crossentropyloss 帶權重的交叉熵損失 2.kl 散度損失 kldivloss 3.二進位制交叉熵損失 bceloss 帶權重的二進位制交叉損失 bcewithlogitsloss 將bceloss和si...

Ajax的常見錯誤以及對應處理

1.網路暢通,伺服器端能接收到請求,伺服器端返回的結果不是預期結果。對應處理 判斷http狀態碼,對其進行處理 xhr.onload function 2.網路暢通,伺服器端沒有接收到請求,返回404狀態碼。對應處理 檢查請求的處理是否發生錯誤 即檢視對應資源是否存在 3.網路暢通,伺服器端能接收到...

CRLF和LF以及對應的坑

使用vscode開啟檔案,右下角顯示檔案的換行方式 使用不同的換行方式,可能導致各種稀奇古怪的問題,例如檔案資料如下 abcdefg hijklmno pqrstu vwxyz使用如下 讀取資料 每讀取2個字元然後跳過乙個字元 for f.seek 1,1 log.println string da...