xororz/local-dream

Run Stable Diffusion on Android Devices with Snapdragon NPU acceleration. Also supports CPU/GPU inference.

解决的问题

Local Dream 提供了一种在 Android 设备上本地运行 Stable Diffusion 图像生成模型的方法,减少对云服务的依赖,并支持离线生成。

工作原理

该应用程序通过 Qualcomm QNN SDK 利用 Snapdragon NPU(神经处理单元)进行硬件加速,同时支持 CPU 和 GPU 推理。目前专注于 SD1.5 和 SDXL 模型,使用 MNN 实现 CPU 执行,使用 tokenizers-cpp 进行文本处理。

适用人群

使用 Snapdragon 处理器的 Android 用户,特别是支持 Hexagon V68 架构或更新版本的设备(用于 SD1.5),以及 Snapdragon 8 Gen 3 或更新版本的设备(用于 SDXL)。

主要亮点

  • NPU 加速:专为 Snapdragon NPU 优化,提升性能。
  • 模型支持:兼容 SD1.5 和 SDXL 模型。
  • 图像放大:集成 Real-ESRGAN 和 UltraSharpV2 实现图像超分辨率。
  • 本地执行:完全在设备上运行,支持 CPU、GPU 和 NPU 推理路径。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目