神經網路概述

2022-07-17 01:24:09 字數 2110 閱讀 9050

在這裡我們來討論一下神經網路。在我們這裡所要討論的神經網路,不是動物或者人的神經網路,而是為計算機量身定製的神經系統。計算機神經網路是一種模仿生物神經網路或者是動物的神經中樞,特別是大腦的結構或者功能,它是一種數學模型或者是計算機模型。神經網路有大量的人工神經元連線進行計算,大多情況下人工神經網路可以在外界資訊的基礎上改變內部結構,是一種自己適應的,逐漸的過程。現在神經網路是一種基於傳統統計學建模的工具,常用來輸入和輸出間進行建模或者來探索資料間的模式。神經網路是一種運算模型,裡面有大量的節點或者是神經元和自間的聯絡構成。正如人類神經系統中的神經元一樣,它們負責傳遞資訊和加工資訊,神經元也可以被訓練或者強化,形成固定的神經意識形態,對特殊的資訊會有更強烈的反應。

這是乙個視覺化的神經網路系統,它有多層的神經元構成,為了區分不同的神經層,我們會有不同神經層的名稱。輸入層是直接接受資訊的神經層,否則傳遞接受到的資訊,比如說乙隻貓的,輸出層是資訊在神經元中傳遞,中轉,分析和權衡形成輸出的結果,通過這一層輸出的結果我們直接的看出計算機對事物的認知,隱藏層是在輸入和輸出中間的眾多神經元連線組成的各個層面,隱藏成會有多層,習慣上只有一層,這個隱藏層的作用就是負責傳入資訊的加工、處理,就像人類的感知神經一樣,資訊的傳遞往往也需要經過多層的神經資訊傳遞、加工,才能衍生出對這種感覺的理解。

通常來說,計算機可以看到的和處理的東西和人類有所不同,無論是、聲音還是文字,它們都只能以數字0或者1的形式出現在神經網路裡,如果當時你想要問電腦:嘿,你看看這張是不是乙隻貓的時候,它能真正看到的全部是一堆數字。通過對這些數字的加工,處理可以生成另外一堆數字,而生成出來的數字也有了認知上的意義,通過一點點處理,我們就能得知計算機到底判斷這張是貓還是狗。具體來說說神經網路到底怎樣來訓練的:首先,我們需要很多的資料,非常多的資料。比如說,我們想讓計算機會判斷貓還是狗,我們就需要準備上千張有標籤的貓貓狗狗的**,然後在進行上千萬次的訓練,幸運的是我們現在的計算機已經執行的非常快了,所以我們不需要再為運算速度而發愁。我們要做的就是只給計算機看,然後讓它給我們乙個不成熟而且不正確的答案,有可能100次的答案中,有10%的答案是正確的。

比如說,你給計算機看是乙隻飛奔的貓,但是計算機卻覺得它是乙隻狗狗。顯然是區分錯誤,但是這一次錯誤的經驗卻是非常有價值的,我們可以用這一次錯誤的經驗作為乙個好老師,從錯誤中學習經驗。那麼,計算機是如何學習經驗的呢?這就是通過對比**的答案和真實答案的差別,然後再把這種差別再反向的傳遞過去。對於每乙個神經元,像正確的方向上改動一點點,這樣到了下一次識別的時候呢,通過所有改進的神經網路,計算機被識別的正確率又可以被提高一點點,這樣每一次的一點點累加上千萬次的訓練,那就是往正確的方向上邁出了一大步,最後,到了驗收結果的時候,再次向計算機亮出貓咪的時,它就能毫不猶豫、自信滿滿的告訴你這就是乙隻貓!

現在,我們可以再進一步看看神經網路是怎樣被訓練的:

原來,在計算機裡每乙個神經元都有屬於它的刺激函式,我們可以用這些函式給計算機乙個刺激行為,當我們第一次給這些計算機看乙隻飛奔的貓時,神經網路裡只有部分的神經元被激勵或者被啟用,被啟用的神經元被傳遞下去的資訊是計算機最為重視的資訊,也就是對輸出結果最有價值的資訊。如果**的結果是乙隻狗,所有神經元的引數都會被調整,使得有一些容易被啟用的神經元變的遲鈍,另外一些卻變得敏感起來,這就說明了所有神經元的引數正在被改變,變得對里真正重要的資訊敏感。這樣,被改變的引數就可以漸漸**出正確的答案,也就是它是一直貓!

這就是神經網路的過程和加工過程!

神經網路概述

分享鏈結 史丹福大學公開課 深度學習教程 知乎專欄 的機器學習 神經網路技術起源於上世紀 五 六十年代,當時叫感知機 perceptron 擁有輸入層 輸出層和乙個隱含層。輸入的特徵向量通過隱含層變換達到輸出層,在輸出層得到分類結果。早期感知機的推動者是rosenblatt。但是,rosenblat...

BP神經網路概述

bp神經網路是一種多層前饋神經網路,該網路的主要特點是訊號的向前傳遞,誤差反向傳播。在前向傳遞中,輸入訊號從輸入層經隱含層逐層處理,直至輸出層。每一層的神經網路狀態只影響下一層的神經元的狀態。如果輸出層得不到想要的輸出,則轉入反向傳播,根據 誤差調整網路的權值和閥值,從而使bp神經網路 輸出不斷的逼...

Hopfield神經網路概述

hopfieid網路是j.j.hopfield在20世紀80年代提出來的。他指出,如果神經網路的突觸聯絡一是有效對稱的,那麼系統必將演化到個固定的有序狀態。於是他引入能量函式的概念,表明如果突觸聯絡是對稱的,則網路的動態演化過程將達到能量最小的穩定狀態。利用這一特一性,hopfield網路可完成些諸...