近年來，在人工智慧領域深度學習取得了令人矚目的成就，在計算機視覺、自然語言處理等各種領域都取得了突破性的進展。深度學習現今主要是依靠神經網路模型來進行學習的，可大致分為三種基礎模型，首先的就是卷積神經網路（convolutional neural networks, cnns，1998）、迴圈神經網路（recurrentneural networks, rnns，2014）、和生成對抗網路（generative adversarial nets, gans，2014）等。但由於傳統的深度學習方法需要大量的資料，並且需要大量的先驗知識。鑑於此問題，ian goodfellow所提出的生成式對抗網路gan逐步受到廣大學者的關注。生成對抗網路(gan)的初始原理十分容易理解，即構造兩個神經網路，乙個生成器，乙個鑑別器，二者互相競爭訓練，最後達到一種平衡(納什平衡)。gan 啟發自博弈論中的二人零和博弈（two-player game），gan 模型中的兩位博弈方分別由生成式模型（generativemodel，g）和判別式模型（discriminative model，d）充當。生成模型 g 捕捉樣本資料的分布，用服從某一分布（均勻分布，高斯分布等）的雜訊 z 生成乙個類似真實訓練資料的樣本，追求效果是越像真實樣本越好；判別模型 d 是乙個二分類器，估計乙個樣本來自於訓練資料（而非生成資料）的概率，如果樣本來自於真實的訓練資料，d 輸出大概率，否則，d 輸出小概率。採用對抗訓練機制進行訓練，並使用優化器（如隨機梯度下降（sgd,stochastic gradient descent），自適應時刻估計方法（adam，adaptivemoment estimation）等）實現優化，二者交替訓練，直到達到納什均衡後停止訓練。最後，將二者結合起來說，就是訓練判別器d，讓它判斷真假的概率最大化，同時，也訓練生成器g，讓
最小化，總而言之，這是一種二元極小極大博弈問題（minimaxtwo-player game），用乙個函式
來表示：
具體的結構如下圖所示：
生成式對抗網路模型沒有像傳統的神經網路一樣的損失函式，它使用了關於判別網路模型和生成網路模型的價值函式（value function）來表示模型。其中訓練過程為固定一方（d/g），更新另乙個網路的引數，交替迭代，是的對方的錯誤最大化，最後使得生成網路g可以估測出樣本資料的分布，前文中提到一開始定義了乙個生成網路的生成資料的分布pg，整個模型希望收斂pg與樣本資料pdata的真實分布，**中證明了當且僅當pg=pdata時存在最優解，即達到納什均衡（納什均衡博弈論中的乙個概念，是假設有n個局中人參與博弈，如果某情況下無一參與者可以獨自行動而增加收益，即為了自身利益的最大化，沒有任何單獨的一方願意改變其策略的），此時生成模型g生成了與訓練資料的相同的分布，判別模型d的準確率等於50%。總結：本節對抗生成式網路gan做了乙個簡單的介紹，讀者看完之後應該了解了生成對抗式網路的原理以及是如何進行work的了。關注小鯨融創，一起深度學習金融科技！
半監督生成對抗網路 生成對抗網路
一 生成對抗網路相關概念 一 生成模型在概率統計理論中，生成模型是指能夠在給定某些隱含引數的條件下，隨機生成觀測資料的模型，它給觀測值和標註資料序列指定乙個聯合概率分布。在機器學習中，生成模型可以用來直接對資料建模，也可以用來建立變數間的條件概率分布。通常可以分為兩個型別，一種是可以完全表示出資料確...
生成對抗網路
我們提出乙個框架來通過對抗方式評估生成模型，我們同時訓練兩個模型 乙個生成模型g捕捉資料分布，乙個鑑別模型d估計乙個樣本來自於訓練資料而不是g的概率。g的訓練過程是最大化d犯錯的概率。這個框架與minmax兩個玩家的遊戲相對應。在任意函式g和d的空間存在乙個唯一解，g恢復訓練資料的分布，d等於1 2...
生成對抗網路
0.監督和無監督 本質 有無標籤資料 1.自動編碼器 只是重構原輸入 輸入 編碼 中間表示 潛在表示，code 解碼 重構 通常用於 1 忽略雜訊 2 壓縮維度 有聚類效果 可以達到pca和主成分分析效果 2.變分自動編碼器 vae variational autoencoders 可以生成新的樣本...