software-mansion-labs/private-mind

何を解決するか

Private Mind は、モバイルデバイス上で完全にオフラインでプライバシー保護されたAI体験を提供します。クラウドベースのAIサービスへの依存を排除し、データのプライバシー、サブスクリプションの懸念、インターネット接続の必要性といった問題を解消します。

動作方法

アプリケーションはデバイス上でローカルにAIモデルを実行します。モデルは最初にHugging Faceからダウンロードされますが、以降の処理（チャット、ドキュメントの取得、音声認識など）はすべてデバイス上で行われます。利用可能なモデルから選択したり、独自のモデルを追加したりでき、システムプロンプトのプリセットを使ってAIの振る舞いをカスタマイズできます。

対象ユーザー

クラウドにデータを送信せずに、スマートフォン上でドキュメントとのチャットや視覚対応モデルといった高度なAI機能を利用したい、プライバシーを重視するユーザー。

特徴

• デバイス内RAG：ローカルの埋め込みと取得を用いて、PDF、TXT、Markdown、HTML、CSVファイルとチャット可能。
• マルチモーダル機能：画像分析に対応する視覚モデルと、デバイス内音声入力をサポート。
• 会話の分岐：任意のメッセージから会話を分岐させ、異なる経路を探索可能。
• ハードウェアベンチマーク：特定のデバイス上でモデルのパフォーマンス、メモリ使用量、速度を測定するための内蔵ツール。
• 完全オフライン：モデルをダウンロード後はインターネット接続なしでも動作可能。