Windsander/ADI-Stable-Diffusion

Accelerate your Stable Diffusion inference with the library's universal C/C++ framework design, powered by ONNXRuntime & across platforms.

해결하는 문제

Agile Diffusers Inference (ADI)는 고성능이고 가벼운 C++ 구현을 통해 Stable Diffusion 모델을 배포할 수 있도록 합니다. 추론 시 Python을 필요로 하지 않아 패키지 크기를 줄이고, 여러 플랫폼 간 배포를 간소화합니다.

작동 방식

ADI는 ONNXRuntime 엔진을 사용하여 .onnx 형식의 모델을 실행합니다. 사용자가 스케줄러를 지정하고, 필요한 ONNX 모델 파일(텍스트 인코더, UNet/Transformer, VAE)의 경로를 지정하여 이미지나 동영상을 생성할 수 있는 C++ 라이브러리와 명령줄 인터페이스(CLI)를 제공합니다. 제한된 장치에서 메모리 사용량을 최적화하기 위해 다양한 정밀도 정책(예: RAM을 자동 감지하여 fp16 사용)을 지원합니다.

대상 사용자

Windows, macOS, Linux, Android에서 Stable Diffusion 및 관련 확산 모델을 포터블하고 Python에 의존하지 않는 C++로 배포하고자 하는 개발자 및 엔지니어.

주요 특징

Python 의존 없음: 추론용 순수 C++17 구현.
광범위한 모델 지원: SD v1.5, SD v2.1, SDXL-turbo, SD3.5-turbo, FLUX.1-schnell, SVD(이미지에서 동영상)와 호환.
크로스플랫폼: Android, macOS(Apple Silicon), Windows, Linux를 포함한 9개의 다양한 플랫폼 대상.
풍부한 샘플러 라이브러리: 14개의 이산 스케줄러, Karras 시그마, Rectified-Flow 계열 포함.
하드웨어 가속: CUDA, TensorRT, CoreML, NNAPI 등의 ONNXRuntime 프로바이더 지원.