在講這些概念之前，我們先掃盲一下啥叫深度學習（deep learning）吧，
深度學習是機器學習的乙個分支，其特點是使用幾個，有時上百個功能層。深度學習已經從能夠進行線性分類的感知器發展到新增多層來近似更複雜的函式。加上卷積層使得小影象的處理效能有了提公升，可以識別一些手寫數字。現在，隨著大型影象資料集的可用性和高效能平行計算卷積網路正在大規模影象上得到應用，從而實現了以前不實用的廣泛應用。
在這裡，我們看到一些實際應用的深度學習是如何被使用的。
深度學習擅長的乙個領域是影象分類和目標檢測，可以用於機械人和自動車輛以及其他一些應用程式。對於機械人來說，目標檢測是很重要的，因為它使機械人智慧型地使用視覺資訊與環境互動。深度學習也用於人臉識別，可以通過視覺來驗證個人的身份資訊，常見於智慧型手機。但深度學習不僅僅是影象處理，還可以用來做自然語言處理，比如智慧型音箱和語音輔助搜尋。其他應用還包括醫學影象、解釋**影象判讀和內容推薦系統。
典型的jetson平台的工作流程是在gpu伺服器或者工作站上進行訓練， 然後將訓練的資料模型在jetson上做邊緣推理。nvidia通過為所有主要的深度學習軟體框架整合cuda加速，使得訓練模型變得容易。這些軟體框架簡化了開發和部署深度學習應用程式的過程。
這些框架大多有細微的差別，但每個框架通常都提供了構建神經網路的方法和訓練神經網路的演算法。雖然有許多不同的框架，每個框架都有自己的好處，
tensorflow就是深度學習框架之一
tensorflow是種流行的深度學習框架，由谷歌公司開源。在tensorflow裡，神經網路被定義成一系列相關的操作構成的圖，這些操作可能是卷積，也可能是矩陣乘法，還可能是其它的任意對每層的元素進行變換的操作。雖然在訓練的過程中，網路層中的引數會發生變化，但網路結構不會。
在典型的工作流程中，開發人員通過在python中進行tensorflow api呼叫來定義計算圖形，python呼叫建立乙個圖形資料結構，完全定義神經網路，然後開發人員可以使用明確定義的圖形結構來編寫訓練或推理過程。
除了定義新的神經網路之外，很容易重新使用已經由其他開發人員或研究人員定義和訓練的現有網路，這些所謂的預訓練網路可以按原樣使用重新用於新任務，叫遷移學習。 在遷移學習的情況下，開發人員將從已儲存的檔案中載入預先訓練的引數，然後使用新資料集執行訓練過程，這種技術通常會導致更高的準確度，因為訓練樣本少於從頭開始訓練網路。
transfer learning toolkit（tlt）是乙個基於python的ai工具包，用於獲取專門構建的預先訓練的ai模型並使用您自己的資料進行自定義。遷移學習將學習到的特徵從現有的神經網路提取到新的神經網路。當建立大型訓練資料集不可行時，經常使用遷移學習。開發智慧型視覺ai應用程式和服務的開發人員，研究人員和軟體合作夥伴可以將自己的資料用於微調經過預先訓練的模型，而無需從頭開始進行培訓。
針對特定用例（例如建築物占用分析，交通監控，停車管理，車牌識別，異常檢測等），nvidia已經幫你準備好了預訓練模型，避免開發者從頭開始建立和優化模型的耗時過程，從而讓你**將工程工作從80周減少到大約8周，從而在較短的時間內實現更高的吞吐量和準確性。**通過使用deepstream部署視覺ai應用程式，您可以釋放更大的流密度並進行大規模部署。
預先訓練的模型可加速ai訓練過程，並從頭減少與大規模資料收集，標記和訓練模型相關的成本。nvidia專門構建的預訓練模型具有高質量的生產質量，可用於各種用例，例如人數統計，車輛檢測，交通優化，停車管理，倉庫運營等。
一旦網路完成，就可以直接部署模型。然而，如果模型使用tensorrt進行優化，那麼通常會有顯著的效能優勢。tensorrt是由nvidia提供的，是一種優化神經網路推理的加速器。
與tensorflow和其他框架不同，tensorrt不用於訓練深度學習模型，而是在你完成訓練時 使用tensorrt優化模型以進行部署，轉換過程重新構建模型以利用高度優化的gpu操作，從而降低延遲並提高吞吐量。
深度學習分類問題中accuracy等評價指標的理解
在處理深度學習分類問題時，會用到一些評價指標，如accuracy 準確率 等。剛開始接觸時會感覺有點多有點繞，不太好理解。本文寫出我的理解，同時以語音喚醒 喚醒詞識別 來舉例，希望能加深理解這些指標。1，tp fp tn fn 下表表示為乙個二分類的混淆矩陣 多分類同理，把不屬於當前類的都認為是負例...
深度學習與深層神經網路等概念
線性模型的侷限性 線性模型可以解決線性問題，然而，現實中遇到的問題幾乎都是 複雜問題 即非線性問題，線性模型不能解決非線性問題，這就是線性模型的侷限。深層神經網路 深層神經網路是解決 多層非線性變換 最常用的一種方法，其可等同於深度學習。即深度學習和深層神經網路需要解決的問題是非線性問題 複雜問題。...
定義搜尋深度，使用者變數等
使用者變數要定義在游標之後，不然會報錯 正確的是 定義在游標之後，不然報錯。declare cur1 cursor for select a.id,a.topic id from diz reply as a where a.topic id topicid and a.parent id 0 de...