損失函式 SRGAN損失函式(目標函式)詳解

2021-10-14 17:11:02 字數 1504 閱讀 1361

srgan的特點之一就是引進了損失感知函式,由此提公升了超解析度之後的細節資訊。本文主要像您介紹srgan使用的損失函式,及其keras實現。

這是原文中給出的損失函式。

容易看出,此損失函式包括兩部分,第一部分是感知損失,第二部分是正則化損失。

感知損失是由李飛飛團隊提出的一種損失函式。

感知損失分了兩部分,內容損失和對抗損失。

內容損失

**中給出的內容損失如下:

**中指出:傳統的超解析度任務中直接使用的均方根誤差(mse)的損失函式,雖然有助於提高超解析度任務的峰值訊雜比(psnr),但是對於影象的細節卻是起到了模糊作用。本文使用的內容損失,是將生成器生成的假高解析度影象和真實的高解析度影象送入vgg19網路中進行特徵提取,然後在提取的特徵圖上再使用均方根誤差。這裡並非是利用全部的vgg19網路提取特徵,而是僅僅利用其中一部分。所以對應不同層數的vgg19網路進行提取。例如使用前9層進行特徵提取,或者前7層進行特徵提取。公式下方也講了:這裡的i和j分別就是指第i層最大池化前的第j個卷積層。作者進行了實驗,在vgg網路不同位置提取出的特徵圖,並將其均方根誤差作為內容損失進行了訓練。作者選取的層數如下:

srgan-mse是直接使用mse在假高分影象和真高分影象之間計算。srgan-vgg22:是利用第二個最大池化前的第二個卷積層之前的網路進行特徵提取,在假高分影象和真高分影象進行mse均方根誤差的計算。也就是vgg19網路的前4層進行特徵提取。srgan-vgg54:是利用第五個最大池化前的第四個卷積層之前的網路進行特徵提取,在假高分影象和真高分影象進行mse均方根誤差的計算。也就是vgg網路的前16層的輸出。實驗結果表明,srgan-vgg54的細節資訊最好,人眼的觀賞效果也最好。

對抗損失

**中的對抗損失如下:

這實際上是gan作者自己提出的一種改進型的生成器損失函式。最小化此式,也就是最大化判別器給予生成器所生成的影象為真的概率。

文章中使用的正則化損失是一種基於全變分範數的正則化損失函式。

這種正則化損失傾向於儲存影象的光滑性,防止影象出來變得過於畫素化。

vgg損失(內容):

損失函式,代價函式,目標函式

首先給出結論 損失函式和代價函式是同乙個東西,目標函式是乙個與他們相關但更廣的概念,對於目標函式來說在有約束條件下的最小化就是損失函式 loss function 上面三個圖的函式依次為 我們給定度量擬合的程度,比如 越小,就代表模型擬合的越好。那是不是我們的目標就只是讓loss function越...

損失函式 代價函式 評分函式 目標函式

1.損失函式就是代價函式 例如 損失函式用於度量標籤的真實值和 值的誤差。常用的損失函式有 0 1損失函式,平方損失函式,期望損失函式。2.評分函式 以輸入x和權值wi為自變數的乙個函式,比如評價x屬於某個分類的可能性的分值 得分函式就是對於給定的乙個輸入,通過計算,得到這個輸入屬於每種類別的得分。...

代價函式 損失函式 目標函式的理解

loss function 是定義在單個樣本上的,算的是乙個樣本的誤差。cost function 是定義在整個訓練集上的,是所有樣本誤差的平均,也就是損失函式的平均。object function 定義為 最終需要優化的函式。等於經驗風險 結構風險 也就是cost function 正則化項 代價...