深度學習中技術發展相關歷史節點

2021-10-01 13:39:14 字數 525 閱讀 2944

1,入門資料集(mnist),地位等同於程式語言中的「hello world!」

2,起源,lenet算是最早的卷積神經網路模型,確定了cnn的基本框架,包括卷積層,池化層,全連線層以及輸出層。

3,崛起,深度學習的高速發展起源於alexnet在imagenet大賽中的出色表現。alex在lenet的框架上進行了大量的更新,包括資料增強、啟用函式、隨機失活、最大池化等,同事首次使用gpu進行加速。

4,vggnet,在alexnet的基礎上進行優化的模型,使用多個更小的卷積核代替大卷積核,同時提出了1×1的卷積核,提高了非線性表達能力,同時減少了參數量。

5,inception v1(googlenet),核心特徵:增加過濾器,擴寬網路;1×1卷積降維。(目前已發展到v4)

6,resnet,不直接計算對映,而是學習輸入輸出之間的殘差的方式。(這裡可能理解錯誤,後續更改。,反正看現在的一些模型,resnet被大量借鑑。)

7,xception,與inception相關性挺大,主要特點在於分別對各通道卷積後通過1*1卷積獲取通道間的相關性。

PLC技術發展歷史

plc即可程式設計控制器 programmable logic controller,plc 自1969年入世以來,逐漸成為了使用最多 應用最廣的工業控制器,目前已有多個分支。plc控制由中心處理單元cpu 儲存器電源單元等組成,抗干擾能力強。其是採用一類可程式設計的儲存器,專為工業現場應用而設計,...

深度學習的發展歷史是什麼?

深度學習的歷史可以追溯到1943年,當時walter pitts和warren mcculloch建立了基於人腦神經網路的計算機模型。他們將演算法和數學方法結合在一起,稱之為 閾值邏輯 以模仿思維過程。自那時以來,深度學習一直在穩步發展,其發展只有兩個重大突破。兩者都與臭名昭著的人工智慧冬天有關。亨...

區塊鏈學習筆記 D02 區塊鏈的技術發展歷史和趨勢

對於區塊鏈的技術發展歷史,其實在我的印象中也就對位元幣有所了解,也聽過什麼火幣之類的玩意,但是具體是什麼 怎麼運作的就不清楚了。這次的內容首先是講解了區塊鏈的技術演進,一張圖一目了然,雖然裡面涉及的具體技術細節還是不太清楚,但是至少知道了一些內容 1.0版本 位元幣 2.0版本 以太坊 3.0版本 ...