作為剛入門的新手來說，cs231n提供了乙個特別好的深度學習框架，本人也在學習這門課程，我以2023年課程計畫為藍本，把知識拆成小的部分，打算有時間乙個乙個的弄懂
課目主題
知識點備註
lecture 1
課程概述
course introduction
計算機視覺概述
computer vision overview
已看完，筆記撰寫中
歷史發展
historical context
已看完，筆記撰寫中
課程綜述
course logistics
已看完，筆記撰寫中
lecture 2
影象分類問題
image classification
已看完，筆記撰寫中
k近鄰方法
k-nearest neighbor
已看完，筆記撰寫中
線性分類器
linear classification
已看完，筆記撰寫中
lecture 3
損失函式與最優化
loss function and optimization
更高維表達
higher-level representations
已看完，筆記撰寫中
影象特徵
image features
已看完，筆記撰寫中
最優化optimization
已看完，筆記撰寫中
隨機梯度下降
stochastic gradient descent
已看完，筆記撰寫中
lecture 4
神經網路介紹
introduction to neural networks
反向傳播
backpropagation
反向傳播筆記
多層感知機
multi-layer perceptrons
已看完，筆記撰寫中
生物神經視角
the neural viewpoint
已看完，筆記撰寫中
lecture 5
卷積神經網路
convolutional neural networks
歷史發展
history
已看完，筆記撰寫中
卷積和池化
convolution and pooling
卷積和池化筆記
卷積網路外部視角
convnets outside vision
已看完，筆記撰寫中
lecture 6
神經網路的訓練 i
training neural networks, part i
啟用函式
activation function
已看完，筆記撰寫中
初始化initialization
已看完，筆記撰寫中
隨機失活
dropout
未開始批量正則化
batch normalization
未開始lecture 7
神經網路的訓練 ii
training neural networks, part ii
更新規則
update rules
未開始整合學習
ensemble
未開始資料強化
data augmentation
未開始遷移學習
transfer learning
未開始lecture 8
深度學習所需的硬體和軟體
deep learning hardware and software
硬體cpu gpu tpu
未開始軟體
pytorch tensorflow
未開始計算圖
dynamic vs static computational graphs
未開始lecture 9
卷積神經網路架構
cnn architectures
alex網路
alexnet
未開始vgg網路
vgg未開始
谷歌網路
googlenet
未開始殘差網路
resnet
未開始lecture 10
迴圈神經網路
recurrent neural networks
迴圈神經網路，長短期記憶網路，gru
rnn,lstm,gru
未開始語言模型
language modeling
未開始影象注釋
image captioning
未開始視覺問答
visual question answering
未開始軟注意力
soft attention
未開始lecture 11
探測與分割
detection and segmentation
語義分割
semantic segmentation
未開始目標檢測
object detection
未開始實體區分
instance segmentation
未開始lecture 12
生成模型
generative models
pixelrnn/cnn
未開始變分自編碼器
variational autoencoders
未開始生成對抗網路
generative adversarial networks
未開始lecture 13
視覺化與理解
visualizing and understanding
特徵視覺化與反轉
feature visualization and inversion
未開始對抗例子
adversarial examples
未開始深度夢境與風格遷移
deepdream and style transfer
未開始lecture 14
深度強化學習
deep reinforcement learning
策略梯度
policy gradients
未開始硬注意力
hard attention
未開始q-learning演算法
q-learning
未開始未開始
深度學習 深度學習基礎知識 Adagrad
adagrad是一種基於梯度的優化演算法 它將學習速率與引數相適應，對不同的變數提供不同的學習率 它增加了罕見但資訊豐富的特徵的影響 因此，它非常適合處理稀疏資料。在基本的梯度下降法優化中，有個乙個常見問題是，要優化的變數對於目標函式的依賴是各不相同的。對於某些變數，已經優化到了極小值附近，但是有的...
深度學習基礎知識整理
卷積神經網路相關知識 池化層 作用是在語義上把相似的特徵合併起來。卷積神經網路的應用 檢測 分割 物體識別以及影象的各個領域。這些應用都是使用了大量的有標籤的資料。比如交通訊號識別，生物資訊分割，面部探測，文字 行人以及自然圖形中的人的身體部分的探測。今年，卷積神經網路的乙個重大成功應用是人臉識別。...
深度學習基礎知識介紹
這是一篇medium上獲得近2萬讚的深度學習入門指南，用 為你詳解深度學習中的各個基礎概念。在我們的日常生活中，幾乎隨處可見ai和機器學習這些術語。但，絕大多數人並不明白什麼是ai。理解深度學習如何工作的第一步是掌握下列重要術語之間的區別。1 人工智慧 ai v.s.機器學習 ml 人工智慧是對人類...