深度學習2016主要進展

2021-07-25 13:15:19 字數 1027 閱讀 3865

機器學習一大挑戰是 unsupervised learning 非監督學習

2023年在非監督學習領域最主要的就是在generative models(生成模型)上的研究,還有乙個就是人機互動(所要達到的目標)方面的研究,google和facebook在這一領域研究出一些方法,在自然語言處理問題上的創新對達到這一目標具有至關重要的作用。

⑴generative adversarial network(gans)

gans能夠使模型處理非監督學習問題,雖然是在2023年由lan goodfellow提出但真正顯示它的潛能是在2023年,deep convolutional gan 在今年提出。

⑵infogan模型

將gan模型擴充套件到能夠學習可解釋的,有用的資料向量表達,

這種模型能夠以一種非監督的方式生成包含資料集資訊的表達方式。

⑶conditional gans

gan模型的另乙個擴充套件,這種模型能夠考慮額外的資訊(類別標籤,文字,另一影象)來生成樣本,使用這一能力促使模型中的g去生成輸出的一種特定型別。主要有以下幾種:

①文字到影象

②影象到影象

③提高解析度

⑷自然語言處理nlp

nlp主要解決的問題是:text understanding(文字理解),question answering(問題應答),machine translation(機器翻譯)。

① text understanding(文字理解)

salesforce metamind 建立了一種新的模型joint many-tasks

② question answering(問題應答)

salesforce metamind 提出一種新的模型 dynamic coattention network

③ machine translation(機器翻譯)

google 提出了一種新的模型 google neural machine translation(gnmt),該模型單獨的對每一對漢英語言進行訓練。在11月,一種新的gnmt模型提出

深度學習的2016 NIPS 2016速覽

nips nerual information processing systems 是人工智慧 機器學習領域的頂級學術會議,恰逢深度學習火熱,今年於12月7日召開的第30屆nips 2016會議更是快成為 盛會 了 2500多篇高質量 投稿,超過5000人的參會規模,andrew ng ian g...

slam結合深度學習相關進展彙總筆記

各種彙總 orbslam簡單結合檢測 orbslam基礎上做得比較全的結合深度學習的slam orbslam所有的改進 知乎上語義資訊與slam結合點 圖神經網路學習書籍 目標檢測結合rgbd稠密三維重建,主要用於重建動態物體 maskfusion real time recognition,tra...

諾亞面向語音語義的深度學習研究進展

本次演講簡要回顧了深度學習近十年進展,重點介紹華為諾亞方舟實驗室最近兩年內和深度學習相關的研究成果,並 了深度學習的未來趨勢。深度學習為什麼現在這麼火?大資料 演算法突破和計算能力。演算法上的突破有包括三點 第一點,對多層神經網路做預訓練。第二點,大量標註資料驅動的監督學習和防過擬合技術的結合,例如...