神經網路和深度學習(一) 初識神經網路

2021-08-06 03:53:03 字數 986 閱讀 6881

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字:

大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質v1

,它包含了1.4億個神經元,在這些神經元之間有數百億的接觸。然而人類的視覺不僅僅包含了v1

,而是一系列的視覺皮質v1

,v2,

v3,v

4,v5

,逐步進行更複雜的影象處理。我們大腦裡有一台超級計算機,通過數億年的進化,可以很好的適應這個視覺世界。識別手寫數字並不容易,我們人類驚人地可以理解我們眼睛所看到的東西,但這些工作都是在我們不知不覺中就完成了,我們根本不知道我們大腦完成了多麼負責的工作。

神經網路解決這類問題通過不一樣的方式。思想是把大量的手寫數字作為訓練樣本,然後生成乙個可以通過訓練樣本學習的系統。換句話說,神經網路使用樣本自動地推斷出識別手寫數字的規則。此外,通過增加訓練樣本的數量,該網路可以學到更多,並且更加準確。因此,當我展示下圖100個訓練樣本時,可能我們可以通過使用成千上萬甚至上億的訓練樣本來建立乙個更好的手寫識別系統。、

該文我們將寫乙個程式實現乙個神經網路,學習如何識別手寫數字。在不使用神經網路**庫的情況下,74行**就可以完成。但是這短短的**識別數字的準確率超過96%。此外,後面的文章我們將可以實現準確率高達99%的方法。事實上,最好的商業神經網路現在已經很好了,銀行可以用它們來處理支票,並通過郵局來識別位址。

的確,如果這篇文章只是描述如何實現乙個手寫數字識別的**,那麼很短的篇幅就可以講完。但是在這個過程中,我們會講到許多神經網路的核心思想,包括兩種重要型別的神經元(感知機和sigmoid神經元),和標準的神經網路的學習演算法,被稱為隨機梯度下降法。整篇文章我致力於解釋為什麼這樣做,並且建立你的神經網路觀念。在本文的結尾,我們將了解深度學習是什麼,和為什麼它很重要。

參考原文:

以上是作者對原文的翻譯和理解,有不對的地方請指正。

出處:

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在...

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在...

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在...