Windsander/ADI-Stable-Diffusion

Accelerate your Stable Diffusion inference with the library's universal C/C++ framework design, powered by ONNXRuntime & across platforms.

解決的問題

Agile Diffusers Inference (ADI) 提供了一種高效率、輕量級的 C++ 實作，用於部署 Stable Diffusion 模型。它在推論時無需 Python，從而減少套件大小，並簡化在多個平台上的部署。

工作原理

ADI 借助 ONNXRuntime 引擎執行 .onnx 格式的模型。它提供一個 C++ 庫和命令列介面（CLI），允許使用者指定排程器，指向必要的 ONNX 模型檔案（文字編碼器、UNet/Transformer、VAE），並產生影像或影片。它支援多種精度策略（例如自動偵測 RAM 並使用 fp16），以優化受限裝置上的記憶體使用。

適用對象

希望在 Windows、macOS、Linux 和 Android 上以可攜式、無 Python 依賴的 C++ 方式部署 Stable Diffusion 及相關擴散模型的開發者與工程師。

主要特色

零 Python 依賴： 推論用純 C++17 實作。
廣泛模型支援： 相容 SD v1.5、SD v2.1、SDXL-turbo、SD3.5-turbo、FLUX.1-schnell 和 SVD（影像轉影片）。
跨平台： 支援包括 Android、macOS（Apple Silicon）、Windows 和 Linux 在內的九種不同平台。
豐富的取樣器程式庫： 包含 14 種離散排程器、Karras sigma 和修正流家族。
硬體加速： 支援 ONNXRuntime 提供者，如 CUDA、TensorRT、CoreML 和 NNAPI。