深度學習Day2 神經網路的基礎程式設計

2021-08-09 06:20:21 字數 987 閱讀 4102

02深度學習筆記

神經網路的基礎程式設計basics of neural network programing

接觸一些新的專業術語

學會如何處理訓練集

前向暫停forward pause

前向傳播forward propagation

反向暫停backward pause

反向傳播backward propagation(在判別學習中使用它)

邏輯回歸logistic regression是乙個用於二分類binary classification的演算法

y冒 對實際值y的**

**中是否有貓

將不同訓練集樣本的資料提取出來,然後就像剛剛我們對x和y所作的那樣,將他們堆疊在矩

陣的列中,形成我們之後會在邏輯回歸和神經網路上要用到的符號表示。

玻爾茲曼機,可以應用於很大很密集的網路,你只會看到幾個結點,它會學習隱藏的表示。

無監督學習:wake-sleep演算法

監督學習,是區分性訓練discriminative training,使用有標籤的資料。

不要停止程式設計。

進行不順時,推導為什麼它不work。

符號約定

sigmoid

logistic regression cost function 邏輯回歸模型代價函式

損失函式loss function或叫做誤差函式error function

定義損失為y冒和y的平方差或者他們平方差的一半

多個區域性優先值

乙個不同的損失函式,它起著與平方誤差相似的作用,這些會給我們乙個凸的優化目標

深度學習 神經網路基礎 2

目錄 一 常用標記 樣本 x,y x 為輸入,y 為輸出 輸入 x x in mathbb 是乙個 n 維的特徵向量 輸出 y 取值為0或1 樣本數量 m 樣本空間 y x y x y 如何組織 按列來組織,每一列表示乙個樣本 矩陣 x x x x 矩陣 y y y y sigmoid函式 g z ...

(深度學習)神經網路基礎

一 神經網路定義 playground 通過這個位址了解神經網路 1.人工神經網路 artificial neural network,簡寫為ann 也簡稱為神經網路 nn 分別輸入層,輸出層以及隱藏層 2.特點 每個連線都有個權值,同一層神經元之間沒有連線,最後的輸出結果對應的層也稱之為全連線層 ...

機器學習,深度學習,神經網路,深度神經網路

先來說一下這幾者之間的關係 人工智慧包含機器學習,機器學習包含深度學習 是其中比較重要的分支 深度學習源自於人工神經網路的研究,但是並不完全等於傳統神經網路。所以深度學習可以說是在傳統神經網路基礎上的公升級。神經網路一般有輸入層 隱藏層 輸出層,一般來說隱藏層大於2的神經網路就叫做深度神經網路,深度...