學習筆記 GAN

2021-10-06 21:06:23 字數 1555 閱讀 3147

gan直觀理解:造假酒的造假者不斷從鑑定師那裡得到反饋從而技術不斷提公升改良製造的假酒越發與真酒無異;鑑定師鑑定技術也隨著不斷提公升。

gan 由以下兩部分組成。

生成器網路(generator network):它以乙個隨機向量(潛在空間中的乙個隨機點)作 為輸入,並將其解碼為一張合成影象。

判別器網路(discriminator network)或對手(adversary):以一張影象(真實的或合成的均可)作為輸入,並**該影象是來自訓練集還是由生成器網路建立。

生成器將隨機潛在向量轉換成影象,判別器試圖分辨真實影象與生成影象。

生成器的訓練是為了欺騙判別器。

注意:gan 的優化最小值是不固定的。通常來說,梯度下降是沿著靜態的損失地形滾下山坡。但對於gan 而言,每下山一步, 都會對整個地形造成一點改變。它是乙個動態的系統,其最優化過程尋找的不是乙個最小值, 而是兩股力量之間的平衡。因此,gan 的訓練極其困難,想要讓gan 正常執行,需要對模型架構和訓練引數進行大量的仔細調整。

想要使用gan完成期望的學習任務,精緻的網路設計和合適的目標函式必不可少,二者是實現較高performance的關鍵因素。

損失函式的優化**方面,效果比較突出且使用較多的主要有三篇**,分別是:lsgan, wgan-gp,譜歸一化gan

改進wasserstein gan的訓練:

最小二乘生成對抗網路:

生成對抗網路的頻譜歸一化:

這三篇**提出的loss或正則方法都對gan的優化有不小的作用。

除了損失函式,網路結構的設計也是完成gan訓練任務裡重要的一部分,此方面可以參考的文章主要有以下幾篇:

特徵金字塔gan :

(如下圖)不同scale的影象可以提供不同精細程度的資訊。

2. 深度卷積生成對抗網路的無監督表徵學:

這篇是dcgan,文章主要就是推行卷積結構的gan網路,包括取樣層的設計,啟用函式的選擇等等。

生成對抗網路(二)conditional gan講解

李弘毅老師gan筆記(二),conditional gan

conditional generative adversarial nets**筆記

生成式對抗網路gan研究進展(三)——條件gan

cgan結構詳細解讀

詳解gan**之搭建並詳解cgan**

1、手把手教你用gan實現半監督學習

2、半監督學習在影象分類上的基本工作方式

3、【平價資料】gan用於半監督學習

4、生成對抗網路(七)----------sgan

GAN學習筆記

參考原文 gan的思想是是一種二人零和博弈思想 two player game 博弈雙方的利益之和是乙個常數,比如兩個人掰手腕,假設總的空間是一定的,你的力氣大一點,那你就得到的空間多一點,相應的我的空間就少一點,相反我力氣大我就得到的多一點,但有一點是確定的就是,我兩的總空間是一定的,這就是二人博...

GAN的學習筆記(1)

1.本文是我的新手作,主要是記錄一些學習gan 生成式對抗網路 的過程和心得體會,能夠提供一些學習的動力,各位看官能看就看。用到的是系統和相關軟體是win7 anaconda3 tensorflow gpu 1.8.0,python版本是3.5.5。至於為什麼不用ubuntu系統,emm主要是怕折騰...

GAN 學習筆記 1 leah

例如 乙個能夠生成二次元影象的gan 訓練乙個generator g 輸入乙個vector,輸出乙個image 同時訓練乙個discriminator d 輸入乙個image,輸出乙個score,評價image有多真實 兩者相互對抗,目標是g生成出足以騙過well trained d 的 訓練過程 ...