簡述AI技術的工程部署

2021-10-18 03:51:21 字數 1652 閱讀 2586

鑑於本人從事視覺感知方向,所以本文也只簡述了人工智慧的cv方向在工業界的推進流程:人工智慧——>深度學習——>神經網路——>計算機視覺——>工業界(自動駕駛、安防、醫療)

1、不同的依賴項需要重新搭建環境

2、不同框架實現的演算法要重新移植

3、新的演算法要重新部署和驗證

4、學術界一般用pytorch/tensorflow框架,工程上一般caffe框架經典好用

工業界通常會調研一些經典演算法,有具體場景、大量資料的加持以及後端處理,得到的效果基本不會差。借用一張目標檢測網路發展圖:

所以工業界不是站在神經網路頂端的人,只要所採用的模型

能用:準確性達標;

實用:速度達標;

好用:準確率速度達到平衡且不太占用硬體資源;

工業界對模型的關注以下問題(資料繫結和場景受限):

- 這個模型要不要堆很多機器?

- 這個模型可解釋性怎麼樣?

- 這個技術復現和上線要多少人日的工作量?

- 這個模型能否良好地插入我們現有的業務pipeline裡面?

- 這個模型除了模型指標外能不能給我們的業務指標帶來提公升?

- 這個模型的bad case有多bad,我們能不能接受?

不採用所謂最前沿模型,並不代表業界工程師們不用去實現,那麼工程師的職責是什麼:

- 在產品環境的應用背後,是幾種甚至幾十種可能方案對比後取優的結果

- 需要跟蹤、調研、預研前沿模型,消化吸收其中的idea,思考能否在自己的業務上起到正向的作用

- 多嘗試;如inference time在不同平台的增加,se在不同model size下效能提公升

- tradeoff

工業領域偏好:

1、計算機視覺領域,企業傾向於用簡單的模型+各種優化技巧。另外,其實最關鍵的是標資料

2、傳統視覺領域,可以用最前沿的方法,但是要有其它的non-parametric演算法對worst case做保證

3、時序分析/建模/決策,做這個的演算法工程師挺多的,其中很多是數學出身,工作內容直接對客戶負責,因而要求模型必須有可解釋性。他們對前沿的方法持非常保守的態度。用的最多的是傳統的統計回歸,xgboost,gbdt也經常用到。有時候在**/決策/推理的過程中還要model uncertainty。這類業務其實很有挑戰性,想做好不容易,業務規則限制太多,完全有可能train了兩個月模型還不如hard coding規則。

如何做ai產品:

無人駕駛領域模型:

工程部署 docker概覽

docker本身並不是容器,它是建立容器的工具,是應用容器引擎。想要搞懂docker,其實看它的兩句口號就行。第一句,是 build,ship and run 也就是,搭建 傳送 執行 三板斧。舉個例子 我來到一片空地,想建個房子,於是我搬石頭 砍木頭 畫圖紙,一頓操作,終於把這個房子蓋好了。結果,...

web工程部署名稱 研究

eclipse 新建web工程後,如api,在訪問web工程時,通常為 locolhost port api 訪問.當我們修改工程名稱為ipa,發現訪問路徑並未改變.即在tomcat 部署時,仍為api.並不是ipa.問題 工程名稱,在eclipse中,配置?通過發現在工程根目錄下,有.mymeta...

nodejs安裝及Vue工程部署

學習python 進入root使用者環境 執行命令 curl silent location bash 執行安裝 sudo yum install y nodejs檢視版本 node v npm v安裝vue sudo npm install vue gnpm config set sass bin...