bentoml/BentoDiffusion

What it solves

它提供了一种标准化的方式，用于自助托管和部署 Stable Diffusion 系列模型，以便从文本提示词生成和处理图像或视频片段。

How it works

该项目使用 BentoML 框架将扩散模型（例如 SDXL Turbo, FLUX.1, 和 SD3.5）封装成生产就绪的 HTTP 服务。用户可以使用 bentoml serve 在本地运行这些服务，或者将它们部署到 BentoCloud 或符合 OCI 规范的自定义基础设施中以实现扩展性。

Who it's for

想要在不从零开始构建服务基础设施的情况下，将扩散模型部署到生产环境中的开发开发者和机器学习工程师。

Highlights

• 支持多种模型，包括 FLUX.1, Stable Diffusion 3.5, 和 ControlNet。
• 通过 BentoCloud 或符合 OCI 规范的镜像进行轻松部署。
• 内置 Swagger UI，用于立即与部署的模型进行交互。
• 提供简单的 Python client 和 CURL 支持，以便将模型集成到应用程序中。