leejet/stable-diffusion.cpp
Diffusion model(SD,Flux,Wan,Qwen Image,Z-Image,...) inference in pure C/C++
What it solves
무거운 외부 의존성이나 복잡한 Python 환경 없이 로컬에서 확산 모델(이미지 및 비디오 생성)을 가볍고 고성능으로 실행할 수 있는 방법을 제공합니다.
How it works
순수 C/C++ 로 작성되었으며 ggml 라이브러리를 기반으로 다양한 확산 모델에 대한 추론을 구현합니다. CPU, CUDA, Vulkan, Metal, OpenCL, SYCL 등 여러 하드웨어 백엔드와 GGUF, Safetensors, PyTorch checkpoint 등 가중치 포맷을 지원합니다. Flash Attention 및 VAE tiling 같은 기술을 통해 메모리 사용을 최적화합니다.
Who it’s for
Linux, macOS, Windows, Android 등 다양한 플랫폼에서 최소한의 오버헤드와 최대 하드웨어 호환성으로 이미지·비디오 생성 모델을 실행하고자 하는 개발자와 사용자에게 적합합니다.
Highlights
- Broad Model Support: Compatible with SD1.x, SD2.x, SDXL, SD3/3.5, FLUX.1/2, Wan2.1/2.2, LTX-2.3, and many others.
- Multi-Modal Capabilities: Supports image generation, image editing, and video generation.
- Hardware Flexibility: Runs on CPU (with AVX/AVX2/AVX512), NVIDIA GPUs (CUDA), Apple Silicon (Metal), and other accelerators via Vulkan, OpenCL, and SYCL.
- Advanced Features: Includes LoRA support, ControlNet (SD 1.5), ADetailer, and various sampling methods (Euler, DPM++, LCM).
- Efficient Formats: Supports GGUF quantization and weight conversion.