bentoml/BentoDiffusion

What it solves

テキストプロンプトから画像や動画クリップを生成・操作するための Stable Diffusion ファミリーモデルを、セルフホストおよびデプロイするための標準化された方法を提供します。

How it works

このプロジェクトは BentoML フレームワークを使用して、拡散モデル（SDXL Turbo, FLUX.1, SD3.5 など）をプロダクション環境向けの HTTP サービスとしてラップします。ユーザーは bentoml serve を使用してローカルでこれらのサービスを実行するか、BentoCloud または OCI 準拠のカスタムインフラストラクチャにデプロイしてスケーラビリティを実現できます。

Who it's for

サービング・インフラストラクチャをゼロから構築することなく、拡散モデルをプロダクション環境にデプロrypt-deploy したい開発者や ML エンジニアです。

Highlights

• FLUX.1, Stable Diffusion 3.5, ControlNet を含む複数のモデルをサポート。
• BentoCloud または OCI 準拠のイメージによる簡単なデプロイオプション。
• デプロイされたモデルと即座にインタラクションするための組み込みの Swagger UI。
• アプリケーションにモデルを統合するためのシンプルな Python client と CURL サポート。