神經網路(一)

2021-09-01 20:47:07 字數 830 閱讀 1094

神經網路:想讓計算機模擬大腦處理資訊的過程。

如:有一杯水,手摸一下,收集溫度資訊,在神經元中進行傳遞,心中有乙個預設值,看是否溫度太高,還是太低。

感知機

人工神經網路

神經網路的發展

傑弗里·埃弗里斯特·辛頓。(英語:geoffrey everest hinton)是一位英國出生的計算機學家和心理學家,以其在神經網路方面的貢獻聞名。辛頓是反向傳播演算法的發明人之一,也是深度學習的積極推動者。

神經網路

組成:

神經網路用於多分類問題。某乙個樣本–>得出屬於全部類別的每乙個概率。(softmax).有多少個類別,輸出就是多少個值。

softmax回歸

神經元的輸出值,經過softmax得出每乙個分類的概率值。

損失計算 演算法

策略優化

線性回歸

均方誤差

梯度下降

邏輯回歸

對數似然損失

梯度下降

神經網路

交叉熵損失

梯度下降,反向傳播演算法

正向傳播:輸入經過一層層的計算得出輸出

反向傳播:從損失計算開始,梯度下降更新權重

api介紹

全連線-從輸入直接到輸出

softmax計算、交叉熵

損失值列表平均值計算

損失下降api

神經網路 一

神經元是神經網路的基本組成。神經網路的神經元,是模仿生物的神經元結構。影象如下 為了形象理解,可以將上圖簡化如下 在這個神經元中,input的feature 可以有很多維度,output也可以有很多的 layer。感知機 1 感知機是網路神經的基礎,感知機也被稱為單層神經網路 即,單個神經元也稱作感...

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...