SaladTechnologies/comfyui-api
A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly in the response, or asynchronously via a variety of storage providers.
해결하는 문제
ComfyUI API는 로컬 상태 기반의 GUI 도구인 ComfyUI를 상태 없고 확장 가능한 API 서버로 전환합니다. 이로 인해 개발자는 ComfyUI의 내부 상태를 관리하거나 수동으로 파일을 다루지 않고도 강력한 생성형 AI 워크플로우(이미지 및 동영상 생성)를 더 큰 애플리케이션에 통합할 수 있습니다.
작동 방식
이 프로젝트는 ComfyUI의 /prompt API를 래핑합니다. 요청의 수명 주기를 관리하여 필요한 입력 미디어를 다운로드하고 워크플로우를 실행한 후 출력을 전달합니다. 주로 두 가지 주요 작동 모드를 지원합니다:
- 동기식: HTTP 응답에 직접 base64 인코딩된 이미지를 반환합니다.
- 비동기식: 완료된 출력물을 지정된 웹훅 URL로 전송하거나 클라우드 스토리지에 업로드합니다.
또한 동적 모델 로딩, 로컬 스토리지 관리를 위한 LRU 캐시, 시작 매니페스트를 정의하여 모델 및 확장 기능을 자동 설치할 수 있는 기능도 포함되어 있습니다.
대상 사용자
Kubernetes나 SaladCloud와 같은 컨테이너 환경을 사용하는 개발자 및 ML 엔지니어로서, ComfyUI 워크플로우를 확장 가능한 마이크로서비스로 배포하고자 하는 분들.
주요 특징
- 상태 없음 아키텍처: 로드 밸런서 뒤에서 수평 확장이 가능합니다.
- 유연한 출력 전달: base64 응답, 웹훅, 모듈식 스토리지 백엔드(S3, Azure Blob, Hugging Face, HTTP)를 지원합니다.
- 광범위한 모델 지원: Stable Diffusion(1.5, XL, 3.5), Flux, AnimateDiff 및 Hunyuan, CogVideoX, Mochi 등 다양한 동영상 모델을 검증 완료했습니다.
- 동적 모델 로딩: URL을 통해 제공되는 모델을 모델 로딩 노드에서 자동 캐시합니다.
- 사용자 정의 이미지 처리: API 파라미터를 통해 PNG, JPEG, WebP 형식으로 이미지를 반환할 수 있습니다.
- 단일 바이너리 배포: 외부 종속성이 없이 쉽게 배포할 수 있는 단일 바이너리로 제공됩니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트