bentoml/BentoDiffusion

What it solves

它提供了一種標準化的方式，用於自我托管和部署 Stable Diffusion 系列模型，以便從文本提示詞生成和處理圖像或影片片段。

How it works

該專案使用 BentoML 框架將擴散模型（例如 SDXL Turbo, FLUX.1, 和 SD3.5）封裝成生產就緒的 HTTP 服務。使用者可以透過 bentoml serve 在本地運行這些服務，或者將它們部署到 BentoCloud 或符合 OCI 規範的自定義基礎設施中以實現擴展性。

Who it's for

想要在不從零開始構建服務基礎設施的情況下，將擴散模型部署到生產環境中的開發者和機器學習工程師。

Highlights

• 支持多種模型，包括 FLUX.1, Stable Diffusion 3.5, 和 ControlNet。
• 透過 BentoCloud 或符合 OCI 規範的鏡像進行輕鬆部署。
• 內置 Swagger UI，可立即與部署的模型進行交互。
• 提供簡單的 Python client 和 CURL 支持，以便將模型整合到應用程序中。