abdulmominsakib/localmind

A mobile application designed to provide a beautiful, fast, and privacy-respecting interface for on device LLM and local LLM servers and cloud providers

解决的问题

LocalMind 解决了典型 AI 聊天应用中的两大痛点:隐私和成本。基于云的聊天机器人可能会跟踪您的活动、将对话存储在远程服务器上,并且通常需要订阅费用。LocalMind 将所有内容保留在您的设备上,或直接与您控制的服务器通信,确保您的数据保持私密,且没有任何隐藏费用。

工作原理

LocalMind 是一款使用 Flutter 构建的移动应用(Android 和 iOS)。您可以完全在手机上运行小型语言模型(通过 llamadart 使用 llama.cpp 运行 GGUF,或通过 flutter_gemma 运行 LiteRT),也可以连接到外部后端:Ollama、LM Studio、OpenRouter、Requesty 或任何兼容 OpenAI 的 API。该应用包含一个模型管理器,用于下载精选模型或从 HuggingFace 拉取 GGUF 文件。在聊天方面,它提供了精致的界面,支持流式响应、Markdown 和语法高亮、针对 DeepSeek R1 等模型的展开式推理日志、编辑和重新生成消息、保存提示词模板、消息变体、临时隐身聊天以及智能建议回复。语音输入(语音转文字)和输出(文字转语音)可原生运行,包括低延迟的语音对语音模式。您可以为具备视觉能力模型附加图像和文档,即时切换角色,并在不丢失上下文的情况下在中途更换活动模型。所有对话历史记录均存储在本地,支持全文搜索、文件夹、置顶以及通过本地归档进行备份/恢复。可选的云同步功能采用端到端加密,仅与您拥有的 S3 存储桶通信。

适用人群

LocalMind 适合任何希望在手机上获得私密、自托管 AI 聊天体验的用户。它特别吸引注重隐私的用户、已经在电脑上运行 Ollama 或 LM Studio 的开发者,以及希望使用自定义 MCP 工具或通过本地 API 为其他应用提供模型的极客。其精致的 UI 也使其成为主流 AI 聊天应用的理想替代品,且不会牺牲任何功能。

主要亮点

  • 使用 GGUF 和 LiteRT 模型在设备上完全离线推理——无需互联网。
  • 连接到 Ollama、LM Studio、OpenRouter、Requesty 或任何兼容 OpenAI 的服务器。
  • 内置模型上下文协议 (MCP) 支持,用于自定义工具和集成,支持按聊天和全局切换。
  • 隐私至上:零分析、仅本地存储,流量直接发送到您自己的服务器。
  • 丰富的聊天功能:流式传输、Markdown、推理日志、编辑/重新生成、消息变体、临时聊天、智能回复。
  • 语音和音频:语音转文字听写、支持速度和缓存的文字转语音播放,以及实时语音对语音模式。
  • 多模态附件:向具备视觉能力的模型发送照片、文档和其他文件。
  • 管理角色、实时切换模型,并通过搜索和文件夹保留完整的对话历史记录。
  • 在本地备份和恢复整个应用数据;可选的端到端加密云同步到您自己的 S3 存储桶。
  • 提供 15 种语言版本,具有深色优先主题和深度的聊天参数自定义功能。

相关

  • 项目
  • 项目
  • 项目
  • 项目