SaladTechnologies/comfyui-api

A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly in the response, or asynchronously via a variety of storage providers.

何を解決するか

ComfyUI API は、ローカルで状態を持つGUIベースのツールとしてのComfyUIを、状態なしでスケーラブルなAPIサーバーに変換します。これにより、開発者は下位のComfyUIの状態を管理したり、手動でファイルを扱ったりすることなく、強力な生成AIワークフロー(画像および動画生成)をより大きなアプリケーションに統合できます。

動作方法

このプロジェクトは、ComfyUIの /prompt API をラップするものです。リクエストのライフサイクルを管理し、必要な入力メディアをダウンロードし、ワークフローを実行した後、出力を配信します。主に2つの動作モードをサポートしています:

  • 同期モード: HTTPレスポンスに直接base64エンコードされた画像を返します。
  • 非同期モード: 完了した出力を指定されたwebhook URLに送信するか、クラウドストレージにアップロードします。

また、動的なモデルロード、ローカルストレージ管理のためのLRUキャッシュ、起動マニフェストによるモデルおよび拡張機能の自動インストール機能も備えています。

対象ユーザー

KubernetesやSaladCloudなどのコンテナ化環境を使用している開発者やMLエンジニアで、ComfyUIワークフローをスケーラブルなマイクロサービスとしてデプロイしたい方。

主な特徴

  • 状態なしアーキテクチャ: ロードバランサーの背後で水平スケーリングが可能。
  • 柔軟な出力配信: base64レスポンス、webhook、モジュール式ストレージバックエンド(S3、Azure Blob、Hugging Face、HTTP)をサポート。
  • 広範なモデル対応: Stable Diffusion(1.5、XL、3.5)、Flux、AnimateDiff、およびHunyuan、CogVideoX、Mochiなど、さまざまな動画モデルを検証済み。
  • 動的なモデルロード: URL経由で提供されるモデルを、モデルロードノードで自動的にキャッシュ。
  • カスタマイズ可能な画像処理: APIパラメータでPNG、JPEG、WebP形式の画像を返すことが可能。
  • 単一バイナリ配布: 外部依存なしで簡単にデプロイできる単一バイナリ形式で配布。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト