深度學習筆記(一) 前期簡單介紹

2021-09-27 02:06:57 字數 867 閱讀 4472

先修課程

高等數學(偏導數)

矩陣論(向量/矩陣操作與性質)

概率論(常見分布、貝葉斯法則)與數理統計(均值、方差、最大似然)

最優化程式設計經驗(python、matlab)

流程資料集劃分

step1.收集資料集,標記資料

step2.拆分資料集

訓練集——訓練模型,確定模型/網路引數

驗證/開發集——調整超引數(學習率,正則化引數等),選擇特徵,以及對學習演算法做出其他決定

測試集——評估演算法的效能

當樣本數量小於1萬時    訓/驗/測——6:2:2

在沒有驗證集時 訓/測——7:3

樣本很大(百萬級別)時 訓/驗/測——98:1:1

訓/測——99:1

step3.訓練網路,隨機梯度降

step4.評價(查準率(精度)、查全率(召回))

小樣本學習

(1)資料增廣(argumentation):資料變換,如縮放、翻轉、旋轉、顏色抖動、平移、加噪

(2)遷移學習(learning):將乙個領域中學習到的知識和經驗,應用到其他相似的領域中去

(3)資料生成(generation):cyclegan,vae等

其他方法:few-shot / one-shot / zero-shot learning ,activity learning

開源工具包

caffe2

pytorch

tensorflow

應用深度學習的核心要素

1、data:大資料

2、hardware:gpu計算

3、talent:設計演算法,使得深度學習模型可應用於解決特定場景問題

ROS 學習筆記(一)前序

鑑於blog的共享特性,我感覺分享下我個人的背景是有意義的,我學科背景是機械類的師範專業,工作過程中由於某種原因轉換為電氣自動化主要plc方向,由於工作機會原因轉為雷射雷達方向,這時候就經常聽到周圍的人討論slam,ros,vslam,ai,opencv,無人車等軟硬體名詞。所以作為乙隻老菜鳥不得不...

vimscript學習筆記 一 前言

一 說明 vim是乙個功能相當強大的編輯器,本篇章將向你介紹vimscript,一門用於定製vim的指令碼語言。讀完本書 你將能夠定製vim使其更加適應你的文字編輯需求,以後再使用vim將有更好的體驗。目標 你需要根據你的 工作性質 喜好 以及 習慣 定製它 備註 一天僅很少的時間使用vim,學習v...

Ibatis學習筆記(一)簡單介紹

ibatis 是以sql 為中心的持久化層框架。能支援懶載入 關聯查詢 繼承等特性。ibatis 不同於一般的 or對映框架。or對映框架,將資料庫表 欄位等對映到類 屬性,那是一種元資料 meta data 對映。ibatis 則是將sql 查詢的引數和結果集對映到類。所以,ibatis 做的是的...