MLServer - 只要一行指令與兩個JSON檔就能部署模型

MLServer這個專案的目標是能夠快速的部署ML模型(不支援DL framework),如果會需要大規模部署的話就能和Seldon core搭配使用

MLServer - 只要一行指令與兩個JSON檔就能部署模型

Install

Base Package

不論要部署的是哪個framework的model都需要先安裝

pip install mlserver

(Optional) Runtime Packages

還要在根據要serve的模型framework安裝不同類型的套件,像是sklearn就要裝

pip install mlserver-sklearn

至於要安裝哪個套件在Github的REAME上有個完整的對照表