xororz/local-dream

Run Stable Diffusion on Android Devices with Snapdragon NPU acceleration. Also supports CPU/GPU inference.

何を解決するか

Local Dream は、Android デバイス上でローカルに Stable Diffusion 画像生成モデルを実行する方法を提供し、クラウドベースのサービスへの依存を排除します。特に、対応するハードウェア上でより高速で効率的な推論を実現するために、Snapdragon NPU(Neural Processing Unit)を活用してパフォーマンスを最適化しています。

動作方法

このアプリケーションは C++ ライブラリと Android ネイティブ UI フレームワークの組み合わせを使用しています。NPU 実行には Qualcomm QNN SDK を、CPU 実行には Alibaba MNN を使用し、パフォーマンス最適化には stable-diffusion.cpp を活用しています。SD1.5 および SDXL モデルをサポートしており、特定の Snapdragon アーキテクチャ(SD1.5 用に Hexagon V68+、SDXL 用に Snapdragon 8 Gen 3+)で NPU 加速が利用可能です。

対象ユーザー

インターネット接続や外部サーバーに依存せずに、モバイルデバイス上で AI 画像をローカルに生成したい Android ユーザー。

特徴

  • ハードウェア加速: Snapdragon NPU を活用して、高パフォーマンスなローカル推論を実現。
  • モデル対応: Stable Diffusion 1.5 および SDXL と互換性あり。
  • モデルの柔軟性: NPU 加速の代替またはフォールバックとして、CPU および GPU 推論をサポート。
  • 統合ツール: Real-ESRGAN および UltraSharpV2 を用いた画像拡大、opennsfw2 を用いた NSFW コンテンツフィルタリングを内蔵。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト