伯克利《深度無監督學習》課程資源分享

2021-09-27 02:36:16 字數 1282 閱讀 5693

今天給大家推薦一門加州大學伯克利分校的新開課程cs294深度無監督學習。本課程將涵蓋深度學習中不需要標註資料的兩個領域:深度生成模型和自監督學習。生成模型的最新進展使得對自然影象、音訊波形和文字語料庫等高維原始資料進行真實建模成為可能。自監督學習的進步已經開始縮小監督表示學習和非監督表示學習之間的差距,本課程將涵蓋這些主題的理論基礎以及它們的新應用。

教師介紹:

pieter abbeel,加州大學伯克利分校教授、機械人學習實驗室主任,伯克利人工智慧研究(bair)實驗室聯合主任。

官網課程ppt:

主要內容

下面是這門課的主要目錄:

week 1

第1a講: 課程安排

第1b講: 課程動機

第1c講: 基於似然的模型 part i: 自回歸模型

week 2

第2a講: 基於似然的模型 part i: 自回歸模型 (ctd)

第2b講: 無失真壓縮(lossless compression)

第2c講: 基於似然的模型 part ii: 流模型

week 3

第3a講:基於似然的模型 part ii:流模型(ctd)

第3b講:隱變數模型

week 4

第4a講:隱變數模型(ctd)(與第3周ppt相同)

第4b講:位元編碼/位反編碼

week 5

第5講:隱式模型/生成對抗網路

week 6

第六講:非生成性表徵學習

week 7

第7a講:非生成表徵學習(ctd)

第7b講:半監督學習

week 8

第8講:表徵學習+其他問題

week 9

第9a講:無監督分布對齊

第9b講:客座講座:ilya sutskever

week 10

第10a講:無監督分配對齊(ctd)

第10b講:客座講座:durk kingma

week 11

第11講:語言模型(alec radford)

week 12

第12a講:無監督的表徵學習

第12b講:客座講座alyosha efros

week 13

第13a講:待定(tbd)

第13b講:客座講座aaron van den oord

week 14

沒有課week 15

期末專案報告

資源分享

有監督學習和無監督學習 無監督學習

一.無監督學習包含的演算法 聚類 kmeans聚類演算法 降維 pca 之所以叫無監督學習 是因為模型是從無標籤的資料開始學習,沒有目標值。二.kmeans聚類 1.聚類演算法步驟 定義 將高維資料轉化為低維資料的過程,在此過程中可能會捨棄原有資料,創造新的變數 作用 降低原始資料的維數 複雜度 損...

深度學習 1 有監督學習和無監督學習

什麼是人工智慧?人類用各種方式讓機器擁有與人類相仿的 智慧型 就是人工智慧。什麼是機器學習?機器學習就是實現人工智慧的一種方式。什麼是深度學習?深度學習就是實現機器學習的一種技術。為什麼要機器學習呢?你想啊,人類這麼聰明是為什麼,還不是因為在整個人類歷史中,人類不斷學習,所以才有現在的智慧型。既然要...

無監督學習與監督學習

1.無監督和有監督的理解方法有很多,主要可以從以下幾方面來理解 1 無監督與監督學習的區別在於乙個無教學值,乙個有教學值。但是,個人認為他們的區別在於無監督學習一般是採用聚簇等演算法來分類不同樣本。而監督學習一般是利用教學值與實際輸出值產生的誤差,進行誤差反向傳播修改權值來完成網路修正的。但是無監督...