Bentoml部署拓展示例
Published on Aug. 22, 2023, 12:10 p.m.
借助Bentoml可以快速的实现模型的部署,这里写了几个Frameworks,用来实现快速的模型部署。
安装
pip install tkitBentomlFrameworksExpand
包含了两个Artifact,TokenizerArtifact和PytorchLightningArtifact,后续会继续添加新的模块。
from tkitBentomlFrameworksExpand.TokenizerArtifact import TokenizerArtifact