Pangu-Immortal/MagicWX

解决的问题

MagicWX 提供了一种在 Android 设备上完全离线运行大型语言模型（LLMs）和图像生成模型的方法。通过集成多种本地推理运行时，无需依赖云 API，用户可以在无网络连接的情况下与 AI 对话并生成图像。

工作原理

该应用使用 Kotlin 和 Jetpack Compose 构建，采用模块化适配器系统以支持不同的 AI 运行时：

• 文本生成：使用 ONNX Runtime、MediaPipe/LiteRT 和内置体验引擎运行 RWKV-7、Qwen 和 SmolLM2 等模型。
• 图像生成：采用原生 MNN 后端运行 Stable Diffusion 1.5 CPU 流水线，支持文本到图像、图像到图像以及图像修复。
• 模型管理：包含一个前台服务用于后台下载模型权重，并具备验证系统，确保模型在真实设备上通过验证后才对用户开放使用。

适用人群

对本地化、私密性 AI 执行感兴趣的 Android 用户和开发者，以及希望在移动硬件上测试小型语言模型（SLMs）和扩散模型性能的用户。

主要亮点

• 完全离线：支持本地文本聊天和图像生成。
• 多模态能力：包含完整的图像生成工作区，支持蒙版绘制、裁剪和历史记录持久化。
• 多样运行时支持：集成 ONNX、MediaPipe、LiteRT 和 MNN。
• 严格验证：仅对通过设备特定验证测试（如加载测试和“hello”响应检查）的模型进行暴露。