TVM安裝常用問題

2022-02-03 12:06:56 字數 699 閱讀 1590

tvm安裝常用問題

如何新增新的硬體後端

tvm與其他ir / dsl專案的關係

在深度學習系統中,ir通常有兩個抽象層次。tensorflow的xla和intel的ngraph都使用計算圖表示。這種表示形式是高階的,並且有助於執行通用優化,例如記憶體重用,布局轉換和自動微分。

tvm採用低階表示,可明確表示記憶體布局,並行化模式,區域性性和硬體基元等的選擇。此ir級別更接近直接針對目標硬體。低階ir採用了來自現有影象處理語言(例如halide),暗室darkroom和迴圈轉換工具(例如基於loopy和基於多面體的分析)的思想。特別專注於表達深度學習工作負載(例如,遞迴),針對不同硬體後端的優化以及嵌入框架以提供端到端編譯堆疊。

tvmlibdnncudnn的關係

tvm可以將這些庫合併為外部呼叫。tvm的目標之一是能夠生成高效能核心。當從人工核心技術中學習,逐步將它們新增為dsl中的原語,逐步發展tvm。另請參閱前面內容以了解tvm中運算元的配置。

TVM安裝踩坑筆記

在ubuntu中新增環境變數的命令 sudo gedit etc profile新增以下兩行命令 配置 cmake 為保持簡單,本配置不啟用 cuda,opencl,rcom,metal,vulkan 切換目錄進剛剛 clone 的 tvm 資料夾下 cd tvm 在 tvm 資料夾下新建 buil...

在Ubuntu18 04上安裝tvm

工欲善其事,必先利其器。在開始學習和使用tvm之前,必定是要先安裝乙個的 不過直至2020年8月,tvm發布的最新版本還是0.的,尚未發布正式版。安裝上也有許多坑要填,不過按照官方文件上操作也基本是穩的。本文接下來的內容將簡要介紹一下筆者安裝tvm的過程。平台及版本 前排建議 如果不喜歡折騰,盡量別...

tvm 在 android gpu 上的速度問題

tvm 在 android gpu 上的速度問題 tvm android gpu opencl 2019 5 6 tvm 當前版本是 0.6.dev.android手機上,gpu是由 opencl 來驅動的。在帶有gpu的android手機上,可以用tvm來呼叫 opencl 做模型推導 例子 tv...