off-grid-ai/mobile

The Swiss Army Knife of Offline AI. Chat, Speak, and Generate Images - Privacy First, Zero Internet. Download an LLM and use it on your mobile device. No data ever leaves your phone. Supports text-to-text, vision, text-to-image

解決する課題

Off Grid AIは、完全にデバイス上で動作する完全プライベートなAIスイートを提供し、クラウド接続の必要性を排除し、データがユーザーのスマートフォンやMacから流出することを防ぎます。これにより、外部サーバーに依存することなく、多様なAI機能（テキスト、画像、ビジョン、音声）へのアクセスを必要とするプライバシー重視のユーザーの課題を解決します。

仕組み

本アプリケーションは、ネイティブのハードウェアアクセラレーション（SnapdragonのNPU、iOSのCore ML）と、llama.cppやwhisper.cppなどの最適化されたライブラリを活用して、モデルをローカルで実行します。テキスト生成にはGGUFモデル、画像にはStable Diffusion、音声認識にはWhisperをサポートしています。また、ドキュメント分析やプロジェクトのナレッジベース用に、同梱のMiniLMモデルとSQLiteを使用したローカルRAGシステムも備えています。

対象ユーザー

Android、iOS、macOSを利用しており、データの収集を伴わずにマルチモーダルなタスクを処理できる、多機能なオフラインAIアシスタントを求める、プライバシー重視の個人、開発者、およびユーザー。

ハイライト

マルチモーダル機能: テキスト生成 (Llama 3.2, Phi-4, 等)、画像生成 (Stable Diffusion)、ビジョンAI (SmolVLM, Qwen3-VL)、および音声文字起こし (Whisper) をサポート。
ローカルRAG: プロジェクト固有のナレッジベースを作成するための、PDFやテキストドキュメントのデバイス上での埋め込みと検索。
ツール呼び出し: Web検索、計算機、および runaway 防止機能を備えたナレッジベース検索のための組み込みツール。
柔軟なモデルサポート: 独自の .gguf ファイルの持ち込みや、OllamaやLM StudioのようなOpenAI互換のローカルサーバーへの接続が可能。
プライバシー第一: データがデバイスから外部に出ることは一切ありません。音声や画像生成を含むすべての処理は、ローカルのRAM/NPUで行われます。