xororz/local-dream
Run Stable Diffusion on Android Devices with Snapdragon NPU acceleration. Also supports CPU/GPU inference.
何を解決するか
Local Dream は、Android デバイス上でローカルに Stable Diffusion 画像生成モデルを実行する方法を提供し、クラウドベースのサービスへの依存を排除します。特に、対応するハードウェア上でより高速で効率的な推論を実現するために、Snapdragon NPU(Neural Processing Unit)を活用してパフォーマンスを最適化しています。
動作方法
このアプリケーションは C++ ライブラリと Android ネイティブ UI フレームワークの組み合わせを使用しています。NPU 実行には Qualcomm QNN SDK を、CPU 実行には Alibaba MNN を使用し、パフォーマンス最適化には stable-diffusion.cpp を活用しています。SD1.5 および SDXL モデルをサポートしており、特定の Snapdragon アーキテクチャ(SD1.5 用に Hexagon V68+、SDXL 用に Snapdragon 8 Gen 3+)で NPU 加速が利用可能です。
対象ユーザー
インターネット接続や外部サーバーに依存せずに、モバイルデバイス上で AI 画像をローカルに生成したい Android ユーザー。
特徴
- ハードウェア加速: Snapdragon NPU を活用して、高パフォーマンスなローカル推論を実現。
- モデル対応: Stable Diffusion 1.5 および SDXL と互換性あり。
- モデルの柔軟性: NPU 加速の代替またはフォールバックとして、CPU および GPU 推論をサポート。
- 統合ツール: Real-ESRGAN および UltraSharpV2 を用いた画像拡大、opennsfw2 を用いた NSFW コンテンツフィルタリングを内蔵。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト