mobile: デバイス上でのテキスト、画像、およびビジョン生成のための完全なオフラインAIスイート

何を解決するか

Off Gridは、完全にデバイス上で動作する、プライバシーを重視した完全なAIスイートを提供し、クラウド接続の必要性を排除し、データがユーザーのハードウェアから離れるのを防ぎます。スマートフォンやMacを、テキスト、画像、およびビジョンタスクのための自己完結型のAIワークステーションへと変貌させます。

仕組み

このアプリは、ネイティブなハードウェアアクセラレーション（Snapdragon上のNPU、iOS上のCore ML）と、llama.cppやwhisper.cppのような最適化されたライブラリを活用して、モデルをローカルで実行します。テキスト生成には幅広いGGUFモデルを、画像生成にはStable Diffusionを、ビジョンAIにはSmolVLM/Qwen3-VLをサポートしています。また、埋め込み用の同梱されたMiniLMモデルと、ローカルストレージ用のSQLiteを使用した、デバイス上のRAGシステムも含まれています。

対象ユーザー

データプライバシーを優先するユーザー、オフライン環境で作業する人々、そしてモバイルデバイスやApple Silicon Mac上で多様なマルチモーダルAIモデルを実行したいAI愛好家。

ハイライト

• マルチモーダル機能: テキスト生成、画像生成、Stable Diffusion、およびビジョンAIを一つのアプリに統合。
• オンデバイスRAG: PDFやテキストファイルを使用した、ローカルなドキュメント分析とナレッジベース検索。
• ツール呼び出し: ウェブ検索、計算機、およびデバイス情報のための組み込みツールと、自動ツールループ。
• オンデバイス音声: Whisperによって駆動される、完全にオフラインで行われる音声からテキストへの文字起こし。
• 柔軟なモデルサポート: Qwen、Llama、およびGemmaモデル、ならびにカスタムの.ggufファイルとリモートのOpenAI互換サーバーをサポート。