Mobile-Artificial-Intelligence/maid

Maid is a free and open source application for interfacing with llama.cpp models locally, and with Anthropic, DeepSeek, Ollama, Mistral and OpenAI models remotely.

Maid – Mobile Artificial Intelligence Distribution

概要
Maidは、React Nativeで構築されたオープンソースのAndroidアプリで、スマートフォンから大規模言語モデル (LLMs) と対話できます。llama.cpp エンジンとGGUFファイルを使用してローカルでモデルを実行したり、APIキーを介して数十種類のリモート推論プロバイダー(OpenAI、Anthropic、Ollama、LiteLLM-proxyなど)に接続したりできます。


主な機能

機能 内容
ローカル推論 GGUFモデル(Qwen、Phi、TinyLlamaなど)を読み込み、デバイス上で完全にテキスト生成 – インターネット不要。
リモートプロバイダー API Route、Anthropic、DeepSeek、Mistral、Novita、Ollama、llmman、OrcaRouter、LiteLLM、OpenAIなどのサービスをワンクリックで設定。
モデルマーケットプレイス アプリ内で厳選されたHugging Faceモデルを閲覧し、ワンタップでダウンロード。
チャット管理 チャットの作成、名前変更、削除、履歴のJSONエクスポート/インポート。
パラメータ調整 セッションごとにtemperature、top-p、top-k、コンテキスト長などの生成パラメータを調整。
システムプロンプトとペルソナ グローバルなシステムプロンプトを設定し、一貫したキャラクターを付与。
音声出力 コンパニオンアプリ Maise と連携してテキスト読み上げ (TTS) を利用。
Supabase同期 オプションのアカウントログインで設定とチャットログをバックアップ。
Material You テーマ Androidのシステム設定に従うライト/ダークテーマ。
オープンソース、広告なし MITライセンス、テレメトリなし。

使い方

  1. インストール – GitHubのリリースバッジからAPKを取得するか、Google Playからインストール。
  2. バックエンドの選択 –
    • ローカル: デバイスに .gguf ファイルを配置して選択すると、Maidがバックグラウンドで llama.cpp を起動します。
    • リモート: サポートされているプロバイダーのAPIキーを入力すると、Maidがリクエストペイロードを構築し、レスポンスをストリーミングします。
  3. チャット – プロンプトを入力または貼り付け、生成パラメータを調整して回答を確認。チャットは保存、エクスポート、同期が可能。
  4. オプションのTTS – Maise を開いて回答を読み上げ。

ソースからのビルド

# Clone the repo
git clone https://github.com/Mobile-Artificial-Intelligence/maid.git
cd maid

# Install JS dependencies
yarn install

# Run the test suite
yarn test

# Build an Android APK
yarn build-android   # → android/app/build/outputs/apk/release/*.apk

リポジトリには最新リリースのPDFユーザーマニュアルも含まれています。


対象ユーザー

  • モバイル重視のAI愛好家:クラウドサービスに依存せず、スマホでLLMを使いたい方。
  • 開発者:LLM推論とマルチプロバイダーAPI処理のReact-Native実装リファレンスを探している方。
  • 研究者やホビイスト:Androidハードウェアで様々なGGUFモデルを素早くテストしたい方。

制限事項と注意点

  • ローカル推論は、デバイスのCPU/GPU性能と保存可能なGGUFモデルのサイズに制限されます。
  • リモート利用には外部APIキーが必要であり、プロバイダーのコストやレイテンシが発生します。
  • アプリにTTSは内蔵されていません。別途 Maise コンパニオンアプリが必要です。

ライセンスと帰属

  • MITライセンス、テレメトリなし、広告なし。
  • Hugging Face、Meta、OpenAI、またはリストされているモデルプロバイダーとは公式に提携していません。

結論 – MaidはAndroidスマートフォンをポータブルなLLMクライアントに変えます。llama.cpp によるデバイス上のGGUFモデルと、幅広いクラウドAPIの両方をサポートし、クリーンでテーマ設定可能なUIで提供します。

関連

  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト