Maid is a free and open source application for interfacing with llama.cpp models locally, and with Anthropic, DeepSeek, Ollama, Mistral and OpenAI models remotely.

Maid – Mobile Artificial Intelligence Distribution

这是什么
Maid 是一款开源 Android 应用程序（使用 React Native 构建），让您可以透过手机与大型语言模型 (LLMs) 对话。它可以使用 llama.cpp 引擎和 GGUF 文件在本地运行模型，或透过 API 密钥连接至数十种远程推理供应商（OpenAI、Anthropic、Ollama、LiteLLM-proxy 等）。

核心功能

功能	说明
本地推理	加载任何 GGUF 模型（例如 Qwen、Phi、TinyLlama）并完全在设备上生成文本 – 无需网络。
远程供应商	一键配置 API Route、Anthropic、DeepSeek、Mistral、Novita、Ollama、llmman、OrcaRouter、LiteLLM、OpenAI 等服务。
模型市场	在应用程序内浏览精选的 Hugging Face 模型，并一键下载。
对话管理	创建、重命名、删除对话；以 JSON 格式导出/导入历史记录。
参数调整	针对每个对话阶段调整温度 (temperature)、top-p、top-k、上下文长度及其他生成参数。
系统提示与角色	设置全局系统提示，赋予助理一致的性格。
语音输出	与配套的 Maise 应用程序配对以进行文字转语音 (TTS)。
透过 Supabase 同步	可选的账号登录功能，用于备份设置与对话记录。
Material You 主题	随 Android 系统设置变化的浅色/深色主题。
开源、无广告	MIT 授权，无遥测数据。

运作方式

安装 – 从 GitHub 发布页面获取 APK 或从 Google Play 安装。
选择后端 –
- 本地: 将 .gguf 文件放置于设备上并选中，Maid 将在后台启动 llama.cpp。
- 远程: 输入支持供应商的 API 密钥；Maid 将建立请求负载并串流响应。
对话 – 输入或粘贴提示词、调整生成参数，并查看助理的回复。对话可以保存、导出或同步。
可选 TTS – 开启 Maise 以朗读响应内容。

从源代码开始

# Clone the repo
git clone https://github.com/Mobile-Artificial-Intelligence/maid.git
cd maid

# Install JS dependencies
yarn install

# Run the test suite
yarn test

# Build an Android APK
yarn build-android   # → android/app/build/outputs/apk/release/*.apk

存储库在最新版本中也提供了 PDF 使用手册。

谁适合使用？

移动优先的 AI 爱好者，希望在手机上使用 LLM 而不依赖云端服务。
开发者，寻找 LLM 推理与多供应商 API 处理的 React-Native 参考实现。
研究人员或爱好者，需要快速在 Android 硬件上测试不同 GGUF 模型的方法。

限制与注意事项

本地推理受限于设备的 CPU/GPU 性能以及您能存储的 GGUF 模型大小。
远程使用仍需外部 API 密钥，并会产生供应商的费用/延迟。
本应用程序不包含内置 TTS；您需要额外的 Maise 配套应用程序。

授权与来源

MIT 授权，无遥测，无广告。
与 Hugging Face、Meta、OpenAI 或任何列出的模型供应商无官方关联。

总结 – Maid 将 Android 手机变成可携带 LLM 客户端，支持透过 llama.cpp 进行设备端 GGUF 模型推理，以及广泛的云端 API，并封装在简洁且可自定义主题的 UI 中。

Mobile-Artificial-Intelligence/maid