Mobile-Artificial-Intelligence/maid

何を解決するか

Maid は、Android デバイス上で大規模言語モデル（LLMs）を直接実行するか、リモートのAIプロバイダに接続する方法を提供します。これにより、ローカルモデルに常にインターネット接続が必要なくなるだけでなく、複数のAIサービスを統一されたインターフェースで利用できます。

動作方法

React Native で構築されたこのアプリは、llama.cpp を使用して GGUF モデルファイルのローカル推論を実行します。また、API キーを使用して OpenAI、Anthropic、DeepSeek などのさまざまなリモート API と統合されています。ユーザーはアプリ内から Hugging Face からカスタマイズされたモデルを直接ダウンロードしたり、独自のローカル GGUF ファイルを読み込むこともできます。

対象ユーザー

AIモデルをデバイス上でプライベートに扱いたい Android ユーザー、または単一の使いやすいモバイルアプリで複数のリモートAIプロバイダを管理したいユーザー。

特徴

• ローカルおよびリモート推論: GGUF モデルを完全にデバイス上で実行するか、Mistral、Novita、Ollama などのプロバイダに接続できます。
• モデル管理: Hugging Face のカスタマイズされたモデルをワンタップでダウンロードし、カスタムローカル GGUF ファイルもサポートしています。
• 会話ツール: チャットを JSON 形式で作成、名前変更、エクスポート、インポート可能。
• カスタマイズ: セッションごとに温度、top-p、top-k、コンテキスト長を調整可能。カスタムシステムプロンプトも設定可能。
• プライバシー重視: 完全にオープンソース。広告もテレメトリもありません。