深度學習之神經網路

神經網路由輸入層、隱藏層、輸出層組成

1、單層神經網路（感知機）：類似邏輯回歸，線性分類，全連線

沒有啟用函式

2、兩層神經網路（多層感知機）：帶乙個隱層，非線性分類，全連線

3、多層神經網路（深度學習）：全連線

4、卷積神經網路（cnn）：非全連線

5、迴圈神經網路（rnn）：處理序列資料

作非線性變換

sigmoid：輸出0到1

relu：小於0取0，大於0取本身

是神經網路優化的目標函式，神經網路訓練或者優化的過程就是最小化損失函式的過程，損失函式值小了，對應**的結果和真是結果的值就越接近

優化演算法的功能，是通過改善訓練方式，來最小化損失函式

第一種

第二種

第三種adam自適應學習率優化演算法

機器學習之神經網路

機器學習是一門致力於研究如何通過計算的手段，利用經驗來改善系統自身的效能。經驗通常以資料的形式存在，因此機器學習所研究的主要內容是關於在計算機上從資料中產生 模型 的演算法，即 學習演算法 有了學習演算法，將經驗資料提供給它，它就能基於這些資料產生模型 當面對新情況時，模型會給我們提供相應的判斷。一...

PyTorch學習之神經網路

神經網路可以通過torch.nn包來構建，它是基於自動梯度來構建一些模型，乙個nn.module包括層和乙個方法forward input 同時也會返回乙個輸出 output 下圖是乙個簡單的前饋神經網路lenet，乙個簡單的神經網路包括一下幾點 super net,self 首先找到 net 的父...

機器學習，深度學習，神經網路，深度神經網路

先來說一下這幾者之間的關係 人工智慧包含機器學習，機器學習包含深度學習 是其中比較重要的分支 深度學習源自於人工神經網路的研究，但是並不完全等於傳統神經網路。所以深度學習可以說是在傳統神經網路基礎上的公升級。神經網路一般有輸入層 隱藏層 輸出層，一般來說隱藏層大於2的神經網路就叫做深度神經網路，深度...