深度學習 推理引擎 個人小結

2021-09-29 05:15:57 字數 937 閱讀 6082

使用推理引擎測試網路的時候,個人覺得首先還是需要確定一下,你要測的網路結構推理引擎是否支援,新的網路結構從提出到推理引擎提供該網路結構的支援,中間需要很長一段時間,然後還需要確認gpu是否支援,需要確認對架構是否支援。個人在實際測得過程中,覺得挺麻煩的,有的cpu支援,gpu不支援,有的這個推理引擎支援,那個推理引擎不支援,有的推理引擎這個架構支援,那個架構不支援等等

mnn:阿里

介紹:原始碼:

op支援:

mace:小公尺

原始碼:op支援:

只適用於移動端

未接觸過

tensorrt:

安裝指導:

tf-trt使用者指南中的加速推理:

開發者指導:

原始碼:op支援:#supported-ops

tensorflowlite:

只適用於移動端

首選還是tensorrt吧,這差不多是大多數人的選擇,雖然我也沒太弄明白。個人還行蠻喜歡mnn的,有中文介紹呀,並且安裝啥的,中文寫的明明白白,好懂,缺點就是支援的ops太少了,阿里的東西,後期維護真是堪憂呀,到現在連yolov3都不支援,這都一年了,愁人呀。

如何使用mnn編寫c程式,呼叫訓練好的深度學習模型:

1. 更改cmakelist配置,將需要的功能開啟,mnn_build_demo預設配置從off改為on, 編譯mnn

2.編譯完成後,build資料夾中會根據demo/exec中檔案生成對應.out檔案,然後執行需要的.out檔案就行

3.根據picturerecogniztion.cpp中檔案內容,進行修改,編寫自己的cpp檔案

個人小結 測試

結束了在測試的工作,一直想寫點東西 1.測試首先是為個讓使用者能用,不會報錯,然後才能談到其他比如易用性,解析度等不會常用的功能,所以測試就要有重點 2.自動化測試在版本測試中用處也不大,前期投入太大,收益太小,自動化一般用於回歸測試,執行一輪測試中錄製好的指令碼,檢查修改bug時是否導致其他功能點...

2013個人小結

昨天開了年會,明天就放假了。想寫點東西記錄下2013年的得失,就算是對自己內心的一點交代。在這一年裡,對我來說,發生了很多改變。有收穫,也有失去 有歡樂,也有傷悲。一 關於工作。不僅僅是換了新公司,在新公司裡工作崗位也換過一次。從專案經理轉變成產品經理,對個人來說是個不小的挑戰,一直充滿激情的對待,...

2014 9 個人小結

時間很快,過年到現在 轉眼已經半年過去了。這半年很忙碌,做了很多任務作,產生了很多問題,無力吐槽。說一下自己技術方面的工作 首先是開源了兩個專案 rgeos 二維 和rgeos.slimscene 三維 嘗試理解二維gis系統和三維gis系統開發的內容。這個過程使自己得到不少提高。二維方面理解了基礎...