MLServer - 只要一行指令與兩個JSON檔就能部署模型

Install

Base Package

不論要部署的是哪個framework的model都需要先安裝

pip install mlserver

(Optional) Runtime Packages

還要在根據要serve的模型framework安裝不同類型的套件,像是sklearn就要裝

pip install mlserver-sklearn

至於要安裝哪個套件在Github的REAME上有個完整的對照表