jegly/Box

解决的问题

Box 提供了一个安全、完全离线的环境，可直接在 Android 设备上运行高级 AI 模型。它消除了对云连接的需求，确保隐私，并支持图像生成、文档分析和语音交互等 AI 功能，即使在去 Google 化的自定义 ROM 上也能使用。

工作原理

Box 充当一个加固且功能丰富的界面，用于在本地运行模型。它通过 LiteRT（原 TensorFlow Lite）和 llama.cpp 利用硬件加速，以使用现代移动芯片组（如 Snapdragon、Google Tensor 和 MediaTek）的 NPU、GPU 或 CPU。它支持 GGUF 模型导入，并包含多种用于视觉、语音和文本处理的专用工具，同时强制执行生物识别锁和加密存储等安全措施。

适用人群

该项目面向希望在本地运行强大开源 AI 模型，而不依赖云服务或 Google 生态系统的 Android 用户。它特别适用于注重隐私的自定义 ROM（如 GrapheneOS 或 LineageOS）用户，以及需要语音相机辅助等专用无障碍工具的用户。

亮点

• 设备端生成式 AI： 支持本地图像生成（FLUX.2/Bonsai）、语音转语音聊天和音乐生成。
• 硬件加速： 针对移动 NPU 和 GPU 进行了优化，包括对最新 Tensor 和 Snapdragon 芯片的支持。
• 隐私优先： 完全离线运行，无遥测，具有生物识别应用锁和加密聊天记录。
• 无障碍工具： 包括“Box Assist”，为盲人和低视力用户提供实时语音相机反馈。
• 广泛的模型支持： 兼容 GGUF 导入以及多种 LLM 和视觉模型，用于文档分析和问答。