深度學習學習記錄一

2022-09-09 06:48:15 字數 1493 閱讀 4196

我這裡的規劃是,李巨集毅的深度學習課程,然後林軒田的機器學習基石,機器學習技法,最後我們蘇老師的計算機視覺。後面就讀**,復現程式了。

競賽,作業平台

讓機器自己學習來生產複雜的程式。如語音識別,影象分類等。

regression: 輸出乙個數值的程式

classification : 從設定好的資訊中,選擇乙個輸出,例子alaf go,從19*19的棋盤中選擇乙個最好的位置。

structured learning:讓機器學會創作。(黑暗大陸)

1.function with unknown parameters

y = b + wx

b: bias

w: weight

2.define loss from training data

l(b,w)

3.optimization

gradient descent :h**e local minima 區域性最優解

η:learning rate

w = η * dl/dw

李巨集毅老師,這裡使用自己的2017-2020的youtube資料來**第二天的**人數。用乙個w來**,等於用前一天**,效果不好。發現曲線是七天乙個迴圈,所以使用7個w**。然後效果優化到極限,還是有誤差。所以線性函式(linear models)不夠用來**。piecewise linear curves(分段線性函式),曲線也可以用piecewise linear curves來逼近。

y = c * (1 / 1 + e ^ -(b + wx1))

w:改變斜率

b:左右移動

c:改變高度

5.2.1training過程 矩陣版

1.function with unknown parameters

上圖的矩陣式子

2.define loss from training data

l(θ) θ 是所有的 unknown parameters

g :gradient : 梯度

batch 把資料分為多個batch,用小batch 來更新引數。乙個epoch是把所有的batch過一遍的結果。

這個是hard sigmoid。

效果比兩層多神經元好很多。所以叫深度學習。括弧笑

**收集 alexnet vgg googlenet residualnet

深度學習記錄1

寫一點東西記錄一下學習過程,因為有些東西入門了之後就忘了沒入門是什麼狀態了。目前還在沒入門的狀態。門外漢學習乙個東西的過程我覺得是這樣 1.門外看到是什麼樣子 知道深度學習可以做影象識別 當然不僅限於此 2.嘗試去模仿擺出同樣的樣子 訓練乙個模型,用來識別 3.嘗試去進裡面看看什麼樣子 看看實際的演...

深度學習(一)深度學習學習資料

持續更新 一 學習清單 1 收集了各種最新最經典的文獻,神經網路的資源列表 2 計算機視覺學習清單 3 機器學習學習清單 二 訓練資料 人臉資料 1 香港中文大學訓練資料集 此資料庫包含了20w張人臉,每張標註了5個特徵點 以及幾十種屬性 是否微笑 膚色 髮色 性別等屬性 2 68個人臉特徵點 3 ...

記錄一下paddlepaddle深度學習心得

最近深度學習那叫乙個火啊,本人也入坑了,但網上找的內容也都亂七八糟的,那些 在本地執行頻頻出錯,硬體成本更是感人,自學成本太高了,又浪費時間。利用動態圖機制實現手寫數字識別 用paddlepaddle實現 密度估計 用paddlepaddle實現人臉識別 用paddlepaddle識別手勢 課程截圖...