leejet/stable-diffusion.cpp
Diffusion model(SD,Flux,Wan,Qwen Image,Z-Image,...) inference in pure C/C++
What it solves
重い外部依存や複雑な Python 環境を必要とせず、ローカルで拡散モデル（画像・動画生成）を軽量かつ高性能に実行できる方法を提供します。
How it works
純粋な C/C++ で記述され、ggml ライブラリをベースに、さまざまな拡散モデルの推論を実装しています。CPU、CUDA、Vulkan、Metal、OpenCL、SYCL など複数のハードウェアバックエンドと、GGUF、Safetensors、PyTorch checkpoint などの重みフォーマットをサポートします。Flash Attention や VAE tiling といった手法でメモリ使用量を最適化します。
Who it’s for
Linux、macOS、Windows、Android など多様なプラットフォーム上で、最小のオーバーヘッドと最大のハードウェア互換性で画像・動画生成モデルを実行したい開発者やユーザー向けです。
Highlights
- Broad Model Support: Compatible with SD1.x, SD2.x, SDXL, SD3/3.5, FLUX.1/2, Wan2.1/2.2, LTX-2.3, and many others.
- Multi-Modal Capabilities: Supports image generation, image editing, and video generation.
- Hardware Flexibility: Runs on CPU (with AVX/AVX2/AVX512), NVIDIA GPUs (CUDA), Apple Silicon (Metal), and other accelerators via Vulkan, OpenCL, and SYCL.
- Advanced Features: Includes LoRA support, ControlNet (SD 1.5), ADetailer, and various sampling methods (Euler, DPM++, LCM).
- Efficient Formats: Supports GGUF quantization and weight conversion.