abdulmominsakib/localmind

A mobile application designed to provide a beautiful, fast, and privacy-respecting interface for on device LLM and local LLM servers and cloud providers

解決する課題

LocalMindは、一般的なAIチャットアプリにおけるプライバシーとコストという2つの大きな問題を解決します。クラウドベースのチャットボットは、アクティビティを追跡したり、リモートサーバーに会話を保存したりすることがあり、多くの場合サブスクリプションが必要です。LocalMindはすべてをデバイス内に保持するか、自身で管理するサーバーと直接通信するため、データはプライベートに保たれ、隠れたコストも発生しません。

仕組み

LocalMindは、Flutterで構築されたモバイルアプリ(AndroidおよびiOS)です。小型言語モデルをスマートフォン上で完全に実行する(llamadart経由でllama.cppを使用しGGUFを実行、またはflutter_gemma経由でLiteRTを実行)か、外部バックエンド(Ollama、LM Studio、OpenRouter、Requesty、またはOpenAI互換API)に接続できます。アプリには、厳選されたモデルをダウンロードしたり、HuggingFaceからGGUFファイルをプルしたりするためのモデルマネージャーが含まれています。チャット機能としては、ストリーミング応答、Markdownおよび構文ハイライト、DeepSeek R1のようなモデル向けの展開可能な推論ログ、メッセージの編集と再生成、保存されたプロンプトテンプレート、メッセージバリアント、一時的なシークレットチャット、スマートな返信提案を備えた洗練されたインターフェースを提供します。音声入力(音声認識)と出力(音声合成)はネイティブで動作し、低遅延の音声対音声モードも含まれています。視覚認識対応モデルには画像やドキュメントを添付でき、会話の途中でペルソナを切り替えたり、コンテキストを失わずにアクティブなモデルを交換したりできます。すべての会話履歴はローカルに保存され、全文検索、フォルダ分け、ピン留め、ローカルアーカイブによるバックアップ/復元が可能です。オプションのクラウド同期はエンドツーエンドで暗号化されており、所有するS3バケットとのみ通信します。

対象ユーザー

LocalMindは、スマートフォンでプライベートかつセルフホスト型のAIチャット体験を求めるすべての人に適しています。特にプライバシーを重視するユーザー、すでにPCでOllamaやLM Studioを実行している開発者、カスタムMCPツールを使用したり、ローカルAPIを介して他のアプリにモデルを提供したい技術愛好家に最適です。洗練されたUIにより、機能を犠牲にすることなく、主要なAIチャットアプリの代替として活用できます。

ハイライト

  • GGUFおよびLiteRTモデルによるデバイス上での完全オフライン推論(インターネット不要)
  • Ollama、LM Studio、OpenRouter、Requesty、またはOpenAI互換サーバーへの接続
  • カスタムツールや統合のためのモデルコンテキストプロトコル (MCP) を内蔵し、チャットごとおよびグローバルな切り替えが可能
  • プライバシー重視:分析機能ゼロ、ローカルのみのストレージ、自身のサーバーへの直接トラフィック
  • 豊富なチャット機能:ストリーミング、Markdown、推論ログ、編集/再生成、メッセージバリアント、一時チャット、スマート返信
  • 音声とオーディオ:音声認識によるディクテーション、速度調整とキャッシュを備えた音声合成再生、リアルタイムの音声対音声モード
  • マルチモーダル添付:視覚認識対応モデルへの写真、ドキュメント、その他のファイルの送信
  • ペルソナ管理、ライブでのモデル切り替え、検索とフォルダによる完全な会話履歴の保持
  • アプリデータ全体のローカルバックアップと復元。所有するS3バケットへのエンドツーエンド暗号化クラウド同期(オプション)
  • 15言語に対応し、ダークテーマを基本としたデザインとチャットパラメータの詳細なカスタマイズが可能

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト