機器學習模型部署摘要

2022-10-08 20:57:13 字數 732 閱讀 7700

1、如果是實時的、小資料量的**應用,則採用的soa呼叫rserve或者python-httpserve來進行應用;這種應用方式有個缺點是需要啟用服務來進行**,也就是需要跨環境,從j**a跨到r或者python環境。對於效能,基本上我們用rserver方式,針對一次1000條或者更少請求的**,可以控制95%的結果在100ms內返回結果,100ms可以滿足工程上的實踐要求。更大的資料量,比如10000/次,100000/次的**,我們目前評估下來滿足不了100ms的要求,建議分批進行呼叫或者採用多執行緒請求的方式來實現。

2、如果是實時、大資料量的**應用,則會採用soa,訓練好的模型轉換成pmml(關於如何轉換,我在下面會詳細描述),然後把模型封裝成乙個類,用j**a呼叫這個類來**。用這種方式的好處是soa不依賴於任何環境,任何計算和開銷都是在j**a內部裡面消耗掉了,所以這種工程級別應用速度很快、很穩定。用此種方法也是要提供兩個東西,模型檔案和**主類;

3、如果是offline(離線)**的,d+1天的**,則可以不用考慮第1、2中方式,可以簡單的使用rscript x.r或者python x.py的方式來進行**。使用這種方式需要乙個排程工具,如果公司沒有統一的排程工具,你用shell的crontab做定時呼叫就可以了。

by:

部署方式:

機器學習演算法線上部署方法.

使用docker+fastapi部署機器學習可參考:

dcoker官方文件

fastapi+docker

django部署機器學習模型 搭建新聞推薦系統

關鍵操作 一 演算法中引入使用者偏好的時間指數修正模型 以 為例 在實際生活中,人們的興趣與行為偏好並不是一成不變的,而是隨著時間與環境的變化而發生相應地改變,以 推薦為例,假設使用者a在2018年之前更偏好爵士樂,收聽 渠道主要來自本地 庫,而從2018年開始,該使用者收聽搖滾 的資料在不斷增多,...

機器學習模型 如何口述機器學習模型原理

重磅乾貨,第一時間送達 有時碰到跟別人聊起模型的熟悉時,不免要闡述下模型的原理,但一般口頭交流都比較難,因為腦海裡面都是一些公式,似乎從功利角度有必要把模型原理用文字表達一遍,所以自己整理了下機器學習的部分,有遺漏或者不對的地方也請多多指教 線性回歸 首先我們會定乙個函式假定y和x的關係,如y wx...

機器學習環境部署

1.安裝python python官網 點選首頁download windows 找到對應版本即可 開啟exe安裝程式即可 注意不要點選install now 要改為個性化安裝 選對安裝位址 2.安裝常用庫 numpy scipy mayplotlib scikit learn 機器學習庫 也可以選...