Windsander/ADI-Stable-Diffusion

Accelerate your Stable Diffusion inference with the library's universal C/C++ framework design, powered by ONNXRuntime & across platforms.

何を解決するか

Agile Diffusers Inference (ADI) は、高パフォーマンスで軽量な C++ 実装により、Stable Diffusion モデルのデプロイを可能にします。推論時に Python を必要としないため、パッケージサイズを削減し、複数のプラットフォームへのデプロイを簡素化します。

仕組み

ADI は ONNXRuntime エンジンを使用して .onnx 形式のモデルを実行します。C++ ライブラリとコマンドラインインターフェース (CLI) を提供し、ユーザーはスケジューラを指定し、必要な ONNX モデルファイル（テキストエンコーダ、UNet/Transformer、VAE）へのパスを指定することで、画像や動画を生成できます。制約されたデバイスでのメモリ使用量を最適化するため、さまざまな精度ポリシー（例：RAM を自動検出して fp16 を使用）をサポートしています。

対象ユーザー

Windows、macOS、Linux、Android で Stable Diffusion および関連する拡散モデルのポータブルで Python に依存しない C++ デプロイソリューションを探している開発者やエンジニア。

特徴

Python 依存なし： 推論用の純粋な C++17 実装。
広範なモデル対応： SD v1.5、SD v2.1、SDXL-turbo、SD3.5-turbo、FLUX.1-schnell、SVD（画像から動画）と互換性あり。
クロスプラットフォーム： Android、macOS（Apple Silicon）、Windows、Linux を含む9つの異なるプラットフォームをターゲットに。
豊富なサンプラー・ライブラリ： 14種類の離散スケジューラ、Karras シグマ、およびリクティファイドフロー族を含む。
ハードウェアアクセラレーション： CUDA、TensorRT、CoreML、NNAPI などの ONNXRuntime プロバイダをサポート。