研一匯報第八周(2019 12 8 )

2021-10-01 04:53:37 字數 848 閱讀 9158

**《deep compression: compressing deep neural networks with pruning, trained quantization and huffman coding》-斯坦福/清華 2016

深層壓縮:通過修剪,訓練量化和哈夫曼編碼壓縮深層神經網路

目的:減少大型網路所需的儲存量和計算量,以便部署在移動裝置上。

network pruning(網路修剪)

網路修剪主要為了減少網路複雜度和防止過擬合。

修剪的方法:將所有權重低於閾值的連線從網路中刪除,然後對網路重新訓練。

trained quantization and weight sharing(訓練量化和權重共享)

減少表示每個權重所需的位數進一步壓縮了修剪後的網路,通過多個連線共享權重進行微調。

eg:4*4 =16 只需4個共享權重【相似權重組合在一起共享相同的值】

簇-質心-修剪後的質心

權重共享:k-均值聚類 同一集群的所有權重共享相同權值

huffman coding(哈夫曼編碼)

哈夫曼通常用於無失真壓縮的最佳字首碼,使用可變長度碼字對源符號進行編碼。

第八周 刪除

題目描述 從串s中刪除其值等於c的所有字元。如從message中刪除 e 得到的就是mssag 1 演算法庫中的標頭檔案部分 ifndef sqstring h included define sqstring h included define maxsize 100 最多的字元個數 typede...

第八周學習

第八周學習週報 2018.10.22 10.28 一 本週學習情況 本週主要學習了 開源硬體 arduino基礎教程 1 歐姆定律 2 光敏電阻與三極體的初步認識 3 多種方法控制並點亮led燈 按鈕開關,光敏開關,紅外開關 訪問了csdn社群的計算機基礎板塊,學習大神的帖子。利用開源硬體對網課裡的...

第八周作業

1 理解窗體的檔案含義及組織結構 如 form1.cs form1.designer.cs form1.resx 控制項的屬性 方法和事件。2 完全用 的方式在form1.cs檔案中建立乙個文字標籤物件label1,用 設定label1的parent location name text autos...