software-mansion-labs/private-mind

解决的问题

Private Mind 在移动设备上提供完全离线、私密的 AI 体验。它消除了对云服务 AI 的依赖，解决了数据隐私、订阅费用和网络连接依赖的担忧。

如何工作

该应用在您的设备上本地运行 AI 模型。虽然模型最初从 Hugging Face 下载，但后续的所有处理——包括聊天、文档检索和语音转文本——都在设备上完成。用户可以从支持的模型中选择，或添加自己的模型，并通过系统提示预设自定义 AI 行为。

适用人群

希望在智能手机上使用高级 AI 功能（如与文档聊天或使用具备视觉能力的模型）但又不希望将数据发送到云端的隐私意识用户。

主要亮点

• 设备内 RAG：使用本地嵌入和检索功能，与 PDF、TXT、Markdown、HTML 或 CSV 文件进行聊天。
• 多模态功能：支持具备视觉能力的模型，用于图像分析和设备内语音输入。
• 对话分支：可从任意消息分叉出新对话，探索不同路径。
• 硬件基准测试：内置工具可测量您特定设备上的模型性能、内存使用和速度。
• 完全离线：模型下载后无需互联网连接即可运行。