gan,generative adversarial network.
起源於2023年,nips的一篇文章,generative adversarial net.
gan, 是一種二人博弈的思想,雙方利益之和是乙個常數,是固定的。你的利益多點,對方利益就少點。
gan裡面,博弈雙方是:乙個叫g(生成模型),另乙個叫d(判別模型)。
兩個模型都有各自的輸入輸出(類似於函式)。
生成模型(g):輸入是雜訊、樣本(一組隨機數),輸出是乙個逼真的樣本。
判別模型(d):相當於二分類器(0-1),判斷輸入樣本是真是假。(類似於匹配模型,輸入兩個樣本,輸出是否匹配)真樣本標1,生成的假樣本標0.
gan模型最終目標:判別器和生成器的對抗,判別器盡可能提高判別能力(判斷樣本是真是假);生成器盡可能提公升樣本生成的真實性,讓判別器判別不出真假。
判別器對於真假樣本輸出概率都是0.5、這時候就平衡了。
對於設計者的我們,希望誰贏就設計成什麼樣的網路。 要得到以假亂真的樣本,就希望生成樣本不被判別器判斷出來。就輸出0.5的概率。
想訓練判別器,二分類,標1,標0.
想訓練生成器,需要聯合判別器一起訓練,才會形成誤差,假樣本全部設為1,不要判別器的引數發生變化。
1.乙個vanilla gan,學習高維向量的低維表示的分布,
2.乙個conditional gan, 學習高維特徵向量分布附帶它所屬的情感類別標籤。
用實際資料訓練,去生成資料,在分類效能上有明顯提公升。
用speech data去做情感識別現在很流行,該資料收集很容易,資料無損,便宜。
可是資料size規模受限,
gan在影象領域很popular,生成看起來很真實的影象,在語音情感識別中也可以。
a vanilla gan, 生成乙個實際向量的壓縮版本;
a conditional gan, 生成實際的高維向量(從壓縮版本)
實驗目標:評估 這些合成的特徵資料,可以帶來多少效能提公升。
gan在影象生成,影象轉換,對話生成上,已經表現很好。
主要是學習特徵表示。
GAN 生成對抗網路
原理 假設我們有兩個網路 乙個生g generator 乙個判別d discriminator g是乙個生成的的網路,它接受乙個隨機的雜訊z,通過這個雜訊生成,記做g z d是乙個判別網路,判斷一張是不是 真實的 它的輸入引數是x,x代表一張的。輸出d x 代表x為真實的概率,如果為1,就代表100...
生成對抗網路 GAN
原文 generative adversarial networks 模型組成 核心公式 演算法圖示化描述 全域性最優點 pg pdata 效果與對比展望 ming maxdv d,g exp data x logd x exp x x log 1 d g z 分析 上方為 gan 網路的核心演算法...
生成對抗網路 GAN
機器學習中的模型一般有兩種 1.決策函式 y f x 2.條件概率分布 p y x 根據通過學習資料來獲取這兩種模型的方法,可以分為判別方法和生成方法。判別方法是由資料直接學習決策函式或條件概率分布作為 模型,即判別模型 而生成模型是由資料學習聯合概率分布 p x,y 然後由 p y x p x,y...