為什麼是「深度」學習而不是寬度?

2021-08-05 20:30:12 字數 512 閱讀 4303

為什麼是深度而不是寬度?

先說說我個人的理解,如下圖所示,圓圈表示神經元,有兩種方式。第一種,只有一層神經層,有8個神經元;第二種方式,有兩層神經層,分別有2個和4個神經元。相比之下,第一種更「寬」更「淺」,第二種更「窄」更「深」。對於每個輸入,兩種方式都可能產生8種結果(第一種:8*1;第二種:2*4),但是第二種方式的神經元總數更少。

因此,在神經元數目相同的情況下,「深度」學習出現的情況會更多,效果也會更好、更全面。

多說一句,在作業系統課程中,記憶體管理中多級頁表技術來節省空間也與「深度」這個問題原理相同。

下面這張圖是《深度學習入門教程》中看到的,是對上面這個問題的解釋,這裡與邏輯門模擬,與上面的解釋本質是一樣的。

為什麼是裝飾模式而不是繼承

對於是否需要快取算乙個需求的話 兩種情況 讀取的流的型別是了另乙個需求 兩種情況 輸入還是輸出又是乙個需求如果採用繼承的話 兩種情況 需要的類有 帶快取 位元組型 輸入流 帶快取 位元組型 輸出流 帶快取 字元型 輸入流 帶快取 字元型 輸出流 不帶快取 位元組型 輸入流 不帶快取 位元組型 輸出流...

為什麼是深度學習

是不是深度學習的hidden layer越多越好,我們並不是單純的研究引數增多的所帶來的效能改善,我們關注的是相同的引數情況下,是不是深度越深越好。那麼是什麼樣的原因出現上邊的情況呢?乙個合理的解釋就是modularization。modularization把本來複雜的問題變簡單,即使traini...

頻寬的單位為什麼是 z而不是bps?

如果從電子電路角度出發,頻寬 bandwidth 本意指的是電子電路中存在乙個固有通頻帶,這個概念或許比較抽象,我們有必要作進一步解釋。大家都知道,各類複雜的電子電路無一例外都存在電感 電容或相當功能的儲能元件,即使沒有採用現成的電感線圈或電容,導線自身就是乙個電感,而導線與導線之間 導線與地之間便...