xororz/local-dream

何を解決するか

Local Dream は、Android デバイス上でローカルに Stable Diffusion 画像生成モデルを実行する方法を提供し、クラウドサービスへの依存を減らし、オフラインでの生成を可能にします。

動作方法

このアプリケーションは、Qualcomm QNN SDK を通じて Snapdragon NPU（ニューラルプロセッシングユニット）をハードウェアアクセラレーションに活用していますが、CPU および GPU 推論もサポートしています。現在は SD1.5 および SDXL モデルに焦点を当てており、MNN を使用して CPU 実行を、tokenizers-cpp を使用してテキスト処理を行っています。

対象ユーザー

Snapdragon ベースの Android デバイスを持つユーザー。特に SD1.5 には Hexagon V68 アーキテクチャまたはそれ以降、SDXL には Snapdragon 8 Gen 3 またはそれ以降のデバイスが推奨されます。

特徴

• NPU アクセラレーション: Snapdragon NPU に特化して最適化され、パフォーマンスを向上させます。
• モデル対応: SD1.5 および SDXL モデルと互換性があります。
• 画像拡大: Real-ESRGAN および UltraSharpV2 を統合して画像拡大を実現します。
• ローカル実行: オンデバイス上で完全に実行され、CPU、GPU、NPU の推論パスをサポートします。