代價函式 cost function

2021-08-04 20:23:44 字數 1513 閱讀 1186

在監督學習的回歸問題中,代價函式就是用於找到最優解的目的函式,反應了**函式的準確性。代價函式的值越小,說明在回歸問題的中,電腦程式對資料擬合的越好。也就是假設函式越正確。

比如,對於這個假設函式(可以看成是求房價的假設函式):

代價函式是:

也就是 **值與真實值的差的平方和,再除以2m(2倍樣本數量)。

在假設函式中:θ0和θ1兩個引數,不同的引數會有不同的假設函式

如下圖所示:

在擬合資料的過程中,我們要不斷的修改θ0和θ1這兩個引數,來得到更好的引數,從而得到更準確的假設函式,也就就是**函式。那麼我們怎麼來判斷這些引數是否選取的更好,假設函式是否更準確呢?這時候就要用代價函式來反映這些問題。

從cost function中我們可以知道,代價函式的值越小那麼我們的引數就選取的越好,假設函式**的結果也就更準確。

舉個簡單例子:
這裡是只有乙個引數的假設函式:

我們把假設函式的引數設定成0.5 那麼他的影象是這樣子:紅色的是真實值。黑色直線是假設函式。

它的的假設函式是誤差平方和,(畢竟有個平方在這裡)為了減少極個別極端的資料,我們把誤差平方和再乘以1/2m.

然後我們不斷改變引數θ1的值:…-0.5….0….0.5….1.5….2…

對代價函式作圖:

然後我們知道代價函式的值越小,說明引數θ1選取的越好,假設函式**就越準確。

上面是乙個引數的假設函式,如果有兩個引數的假設函式的話,他的代價函式影象是這樣的三維立體圖:

我們可以找到在影象的最低點,也就是代價函式的最小值。這個時候的引數最準確,假設函式**的結果也最準確。

然而在實際中,引數往往不止乙個,有多個引數,很多時候無法作代價函式的影象。那麼這個時候我們就通過判斷取得代價函式最小值的時候,來

選擇假設函式的引數。

代價函式 Cost Function

1 代價函式是什麼?理解的代價函式就是用於找到最優解的目的函式,這也是代價函式的作用。2 代價函式作用原理 對於回歸問題,我們需要求出代價函式來求解最優解,常用的是平方誤差代價函式。比如,對於下面的假設函式 裡面有 0和 1兩個引數,引數的改變將會導致假設函式的變化,比如 現實的例子中,資料會以很多...

關於代價函式

代價函式 常用的有ssd sad和satd sad sum of absolute difference sae sum of absolute error 即絕對誤差和 satd sum of absolute transformed difference 即經hadamard變換後再絕對值求和 ...

理解代價函式

q 為什麼會提及關於代價函式的理解?a 在 ml 中線性回歸 邏輯回歸等總都是繞不開代價函式。理解代價函式 是什麼?作用原理?為什麼代價函式是這個?1 代價函式是什麼?代價函式就是用於找到最優解的目的函式,這也是代價函式的作用。損失函式 loss function 是定義在單個樣本上的,算的是乙個樣...