bentoml/BentoDiffusion

What it solves

텍스트 프롬프트를 사용하여 이미지 또는 비디오 클립을 생성하고 조작하는 Stable Diffusion 계열 모델을 셀프 호스팅하고 배포하는 표준화된 방법을 제공합니다.

Who it works

이 프로젝트는 BentoML 프레미워크를 사용하여 확산 모델(SDXL Turbo, FLUX.1, SD3.5 등)을 프로덕션용 HTTP 서비스로 래핑합니다. 사용자는 bentoml serve를 사용하여 로컬에서 이러한 서비스를 실행하거나, BentoCloud 또는 OCI 호환 인프라에 배포하여 확장성을 확보할 수 있습니다.

Who it's for

서빙 인프라를 처음부터 구축하지 않고 확산 모델을 프로덕션 환경에 배포하고자 하는 개발자와 ML 엔지니어입니다.

Highlights

• FLUX.1, Stable Diffusion 3.5, ControlNet을 포함한 다양한 모델 지원.
• BentoCloud 또는 OCI 호환 이미지를 통한 간편한 배포 옵션.
• 배포된 모델과 즉시 상호작용할 수 있는 내장 Swagger UI.
• 애플리케이션에 모델을 통합하기 위한 간단한 Python client 및 CURL 지원.