Bentoml部署拓展示例

Published on Aug. 22, 2023, 12:10 p.m.

借助Bentoml可以快速的实现模型的部署,这里写了几个Frameworks,用来实现快速的模型部署。

安装

pip install tkitBentomlFrameworksExpand

包含了两个Artifact,TokenizerArtifact和PytorchLightningArtifact,后续会继续添加新的模块。

from tkitBentomlFrameworksExpand.TokenizerArtifact import TokenizerArtifact

https://github.com/napoler/tkit-bentoml-frameworks-expand