Mobile-Artificial-Intelligence/maid

解決的問題

Maid 提供了一種在 Android 裝置上直接執行大型語言模型（LLMs）或連接到遠端 AI 服務供應商的方法，消除本地模型對持續網路連接的需求，並為多個 AI 服務提供統一介面。

工作原理

此應用基於 React Native 建構，使用 llama.cpp 對 GGUF 模型檔案進行本地推論。同時，透過 API 金鑰整合 OpenAI、Anthropic、DeepSeek 等多種遠端 API。使用者可直接在應用內從 Hugging Face 下載精選模型，或載入自己的本地 GGUF 檔案。

適用對象

希望在裝置上私密地與 AI 模型互動，或透過單一、使用者友善的行動應用程式管理多個遠端 AI 服務供應商的 Android 使用者。

主要特色

• 本地與遠端推論：完全在裝置上執行 GGUF 模型，或連接到 Mistral、Novita、Ollama 等供應商。
• 模型管理：一鍵下載精選的 Hugging Face 模型，並支援自訂本地 GGUF 檔案。
• 對話工具：可建立、重新命名、匯出與匯入聊天記錄為 JSON 格式。
• 自訂設定：可針對每個會話調整溫度、top-p、top-k 與上下文長度，並設定自訂系統提示。
• 注重隱私：完全開源，無廣告，無遙測資料。