移動端DL框架 當前主流的移動端深度學習框架一覽

2021-09-24 10:14:55 字數 2928 閱讀 3881

在這個專欄中,我們會介紹與移動端的模型訓練和部署有關的框架的使用。

作者&編輯 | 言有三

深度學習模型要落地,比如要部署到手機等移動端平台,之前給大家介紹的用於訓練的框架就不能直接使用了,我們需要相應的移動端框架,目前國內外各大公司紛紛開源自家的框架。

tensorflow lite使用android neural networks api,預設呼叫cpu,目前最新的版本已經支援gpu。

caffe2是facebook在2023年發布的乙個跨平台的框架,不僅僅支援windows,linux,macos三大桌面系統,也支援移動端ios,android,可以說是集訓練和推理於一身。

caffe2本來就是基於caffe開發的,caffe基於c++開發,所以可以很自然地移植到移動端,目前caffe2已經全部併入pytorch。兩者的區別就是pytorch是為研究而開發,更加靈活。caffe2是專為移動生產環境而開發,更加高效。

可以直接使用paddle fluid訓練好的模型,也可以將caffe模型進行轉化,或者使用onnx格式的模型。

6 qnnpack

qnnpack是facebook在2023年發布的int8量化低精度高效能開源框架,全稱quantized neural network package,用於手機端神經網路計算的加速,已經被整合到pytorch 1.0中,在caffe2裡就能直接使用。

這個框架可以為很多運算加速,比如dw卷積 (depthwise convolution) ,目前支援的列表如下:

專案位址如下。

7 mace

mace是2023年小公尺在開源中國開源世界高峰論壇中宣布開源的移動端框架,以opencl和彙編作為底層運算元,提供了異構加速可以方便在不同的硬體上執行模型,同時支援各種框架的模型轉換。

mnn是2023年阿里開源的移動端框架,不依賴第三方計算庫,使用彙編實現核心運算,支援tensorflow、caffe、onnx等主流模型檔案格式,支援cnn、rnn、gan等常用網路。作為後起之秀,自然是吸取了前面開源的這些移動端推理框架的所有優點。

9 其他

還有很早就存在的github專案caffe-android-lib,用於將caffe往移動端進行移植,其實各家ailab應該自己都會有一套這樣的工具。

以及caffe量化工具包caffe-int8-convert-tools等。

這一次先讓大家對移動端的深度學習框架有乙個印象,後面我們會乙個乙個進行學習,敬請期待。

第一篇:【caffe速成】caffe影象分類從模型自定義到測試

第二篇:【tensorflow速成】tensorflow影象分類從模型自定義到測試

第三篇:【pytorch速成】pytorch影象分類從模型自定義到測試

第四篇:【paddlepaddle速成】paddlepaddle影象分類從模型自定義到測試

第五篇:【keras速成】keras影象分類從模型自定義到測試

第六篇:【mxnet速成】mxnet影象分類從模型自定義到測試

第七篇:【cntk速成】cntk影象分類從模型自定義到測試

第八篇:【chainer速成】chainer影象分類從模型自定義到測試

第九篇:【dl4j速成】deeplearning4j影象分類從模型自定義到測試

第十篇:【matconvnet速成】matconvnet影象分類從模型自定義到測試

第十一篇:【lasagne速成】lasagne/theano影象分類從模型自定義到測試

第十二篇:【darknet速成】darknet影象分類從模型自定義到測試

Zepto移動端框架

理論概念 什麼是zepto.js 乙個移動端框架,是jquery的輕量級替代品,api與語句與jquery相似,但檔案要小得多 壓縮最小8kb 特點 1.用於移動端 2.輕量級 3.與jquery相似,易於學習 4.響應,執行快,5,以 作為核心函式與核心物件 與jquery相同的api funct...

vue 移動端框架

採用vant vue vuex axios webpack iconfont 構建的移動端專案模板 1.目前vuex主要用於儲存登入的token,使用者資訊,訊息列表等等 2.axios主要用於介面請求前新增統一的token,和攔截伺服器返回的狀態碼,這裡攔截401錯誤,並重新跳入登頁重新獲取tok...

Vue PC端 移動端框架彙總

在學習vue的過程之中,我發現不管是 bat 大廠,還是創業公司,vue 都有著廣泛的應用,而且框架層出不窮,學習文件也越來越多,vue也越來越受歡迎。下面是我整理的 vue pc端和移動端的ui框架,建議收藏,方便以後學習的時候拿出來檢視。vue pc端框架 1.element 中文文件 2.iv...