百度深度學習公開課學習 簡易筆記和思考

2021-08-20 03:33:33 字數 1814 閱讀 1313

課程第一章主要介紹現代ai的基本概念和演化過程,整理本課程一些學習要點,第一課介紹現代ai的歷史發展;第二課梳理了現代ai的骨架脈絡,有個整體概貌;第三課著重介紹深度的基本概念和學習演進過程。

1、現代ai是什麼?

1.1 深度學習的興起

alphago引起廣泛關注;

1.2 學派分類

邏輯學派:規則為主;

統計學派:基於資料的統計規律;

知識庫學派:知識庫,知識圖譜;

神經網路:深度學習。

1.3 深度學習發展

2023年 frank感知機

1969-  寒冬期

2023年 影象識別技術

2023年 ibm深藍

2023年 imagenet 李飛飛

2023年 alexnet google brain

2023年 google收購deepmind

2023年 微軟imagenet比賽中超過人類水平

2023年 alphago戰勝李世石

1.4 ai與深度學習的關係

ai-機器學習-表示學習-深度學習

1.5 modern ai

基於深度學習的不斷創新與結合

2、現代ai的骨架脈絡

1.1 深度學習和神經網路的基本概念;

mlp(perceptron)

dnn1.2 cnn->2012 alexnet->vgg->resnet 計算機視覺

1.3 rnn->lstm(長短期記憶)->gru->neural turing machine(神經圖靈機器)

1.4 cnn和rnn的應用

文字分類 cnn

情感分析 rnn

中文詩歌

1.5 神經自然語言處理

語義模型

序列標註

1.6 搜尋排序

learning2rank

1.7 強化學習技術與應用

方法:基於值;基於策略;基於模型。

1.8 可解釋的模型及應用

概率圖模型

貝葉斯推斷

貝葉斯深度學習

1.9 生成式模型

vae(variational autoencoder變分自編碼器)

gans(生成式對抗網路)

1.10 深度強化學習演算法

dqn(deep q-learning)

alphago

ddpg(deep deterministic policy gradient)

1.11 multi-agent系統技術

理論介紹

演算法分析

1.12 基於邏輯的深度學習技術

理論介紹

演算法分析

3、深度學習簡介

3.0 邏輯主義ai(西洋棋)-> 機器學習該概念起源;

3.1 資料,規則-》結果 vs 資料,結果-》規則;

3.2 側重面向工程的方向,解決實際問題;

3.3 深度學習是表示學習的一種方式,表示學習通過對於實際問題表述優化,達到更好解決問題,

深度學習能夠連續獲得更加有意義的表示,是學習表示的資料框架,這種資料框架會受到神經生物學的啟發,同時

也具有自身的一些變化和創新;

什麼樣的模型解決什麼樣的問題是沒有明顯規則,所以創新是很寬闊的;

3.4 深度學習基本結構

輸入--權值--結果 vs 真實結果

優化權值<-優化器<-損失函式

3.5 深度學習可以認為是連線主義學派的發展演化結果

經歷了電子大腦,感知機,多層感知機(有使用到bp),再到深度神經網路,中間有svm模型的提出對鏈結模型造成一定的衝擊;2006深度神經網路的完備,深度學習開始了高速的發展。

谷歌深度學習公開課學習筆記 0

課程 谷歌官方的倉庫 課程難度不大,課後的學習任務我也在其他部落格網上找到了解答,他的全部 託管在 學習任務解答列表 1.谷歌深度學習公開課任務 1 notmnist 2.谷歌深度學習公開課任務 2 sgd 3.谷歌深度學習公開課任務 3 正則化 4.谷歌深度學習公開課任務 4 卷積模型 5.谷歌深...

谷歌深度學習公開課學習筆記 1

模型改進後,在你的驗證集上影響了30個例項的改變,通常是有統計學意義的,通常是可以信任的。想象你的驗證集裡有3000個例項,假定你信任30的規則,你可以相信哪個水平的準確性的提公升?當你得到從80 到81 這1 的提公升更有說服力,因為有30個例項從不正確到正確。這就是為什麼對大多數分類器任務,人們...

百度熊掌號公開課在鄭州成功舉辦

13 月 14 日下午,廣受業界關注的熊掌號公開課在鄭州永和伯爵酒店二樓巴黎廳開講,來自河南省內外 300 名站長及企業使用者齊聚一堂,認真聆聽了熊掌號團隊的乾貨分享。站長簽到 據悉,熊掌號是從站長角度重新思考搜尋生態發展後於 11 月 16 日新推出的產品,其相應熊掌公開課先後在北京和深圳 成都等...