Windsander/ADI-Stable-Diffusion

Accelerate your Stable Diffusion inference with the library's universal C/C++ framework design, powered by ONNXRuntime & across platforms.

解决的问题

Agile Diffusers Inference (ADI) 提供了一种高性能、轻量级的 C++ 实现，用于部署 Stable Diffusion 模型。它在推理时无需 Python，从而减小了包大小，并简化了在多个平台上的部署。

工作原理

ADI 利用 ONNXRuntime 引擎执行 .onnx 格式的模型。它提供了一个 C++ 库和一个命令行接口（CLI），允许用户指定调度器，指向必要的 ONNX 模型文件（文本编码器、UNet/Transformer、VAE），并生成图像或视频。它支持多种精度策略（例如自动检测 RAM 并使用 fp16），以优化受限设备上的内存使用。

适用人群

希望在 Windows、macOS、Linux 和 Android 上以可移植、无需 Python 的 C++ 方式部署 Stable Diffusion 及相关扩散模型的开发者和工程师。

主要亮点

零 Python 依赖： 推理用纯 C++17 实现。
广泛模型支持： 兼容 SD v1.5、SD v2.1、SDXL-turbo、SD3.5-turbo、FLUX.1-schnell 和 SVD（图像转视频）。
跨平台： 支持包括 Android、macOS（Apple Silicon）、Windows 和 Linux 在内的九种不同平台。
丰富的采样器库： 包含 14 种离散调度器、Karras sigma 和修正流家族。
硬件加速： 支持 ONNXRuntime 提供者，如 CUDA、TensorRT、CoreML 和 NNAPI。