SaladTechnologies/comfyui-api
A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly in the response, or asynchronously via a variety of storage providers.
何を解決するか
ComfyUI API は、ローカルで状態を持つGUIベースのツールとしてのComfyUIを、状態なしでスケーラブルなAPIサーバーに変換します。これにより、開発者は下位のComfyUIの状態を管理したり、手動でファイルを扱ったりすることなく、強力な生成AIワークフロー(画像および動画生成)をより大きなアプリケーションに統合できます。
動作方法
このプロジェクトは、ComfyUIの /prompt API をラップするものです。リクエストのライフサイクルを管理し、必要な入力メディアをダウンロードし、ワークフローを実行した後、出力を配信します。主に2つの動作モードをサポートしています:
- 同期モード: HTTPレスポンスに直接base64エンコードされた画像を返します。
- 非同期モード: 完了した出力を指定されたwebhook URLに送信するか、クラウドストレージにアップロードします。
また、動的なモデルロード、ローカルストレージ管理のためのLRUキャッシュ、起動マニフェストによるモデルおよび拡張機能の自動インストール機能も備えています。
対象ユーザー
KubernetesやSaladCloudなどのコンテナ化環境を使用している開発者やMLエンジニアで、ComfyUIワークフローをスケーラブルなマイクロサービスとしてデプロイしたい方。
主な特徴
- 状態なしアーキテクチャ: ロードバランサーの背後で水平スケーリングが可能。
- 柔軟な出力配信: base64レスポンス、webhook、モジュール式ストレージバックエンド(S3、Azure Blob、Hugging Face、HTTP)をサポート。
- 広範なモデル対応: Stable Diffusion(1.5、XL、3.5)、Flux、AnimateDiff、およびHunyuan、CogVideoX、Mochiなど、さまざまな動画モデルを検証済み。
- 動的なモデルロード: URL経由で提供されるモデルを、モデルロードノードで自動的にキャッシュ。
- カスタマイズ可能な画像処理: APIパラメータでPNG、JPEG、WebP形式の画像を返すことが可能。
- 単一バイナリ配布: 外部依存なしで簡単にデプロイできる単一バイナリ形式で配布。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト