SaladTechnologies/comfyui-api

A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly in the response, or asynchronously via a variety of storage providers.

解決する課題

ComfyUIは生成AI向けの強力なノードベースインターフェースですが、主にインタラクティブツールとして設計されています。このプロジェクトはComfyUIの状態なしAPIラッパーを提供し、水平スケーリング、非同期処理、自動モデル管理が必要な本番環境への統合を容易にします。

動作方法

サーバーはComfyUIの前に配置されるプロキシとして機能します。HTTPリクエストでAPI形式のプロンプトグラフを受け取り、必要な入力メディアのダウンロードを処理し、ComfyUIの内部APIを通じてワークフローを実行した後、結果の画像を配信します。同期応答(直接base64画像を返す)と非同期応答(Webhookまたはクラウドストレージに結果を送信)の両方をサポートしています。

対象ユーザー

KubernetesやSaladCloudのようなコンテナ化環境を使用している、ComfyUIワークフローをスケーラブルなマイクロサービスとしてデプロイしたい開発者やエンジニア。

主な特徴

  • 状態なしアーキテクチャ:ロードバランサーの背後に水平スケーリング可能に設計されています。
  • 柔軟な出力配信:base64形式での画像返却、S3互換ストレージ、Azure Blob Storageへのアップロード、Webhookによる送信をサポートしています。
  • 自動モデル管理:URLからの動的モデルロード、起動時のダウンロード用マニフェストシステム、オンデマンドモデルダウンロードエンドポイントを備えています。
  • 広範なモデル対応:Stable Diffusion(1.5、XL、3.5)、Flux、AnimateDiff、およびLTX、Hunyuan、CogVideoX、Mochiなどのさまざまな動画モデルで検証済みです。
  • カスタマイズ可能なエンドポイント:サーバーにスクリプトファイルを追加することで、動的ワークフローエンドポイントの作成が可能になります。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト