MLServer - 只要一行指令與兩個JSON檔就能部署模型
MLServer這個專案的目標是能夠快速的部署ML模型(不支援DL framework),如果會需要大規模部署的話就能和Seldon core搭配使用
Install
Base Package
不論要部署的是哪個framework的model都需要先安裝
pip install mlserver
(Optional) Runtime Packages
還要在根據要serve的模型framework安裝不同類型的套件,像是sklearn就要裝
pip install mlserver-sklearn
至於要安裝哪個套件在Github的REAME上有個完整的對照表