Sentient-OS-Labs/sentient-os

An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.

解決する課題

Sentient OSは、現在のAIアシスタントにおけるプライバシーとコンテキストの欠如という課題を解決します。ほとんどのAIツールは、ユーザーがデジタルライフのすべてをクラウドにアップロードできないため、深い個人的コンテキストを欠いており、また受動的であるという問題があります。Sentient OSは、ユーザーの生活に関するローカルでプライベートなナレッジベースを作成することで、ユーザーの特定のコンテキストを理解し、タスクを先回りして提案したり、コンピュータ操作を通じて実行したりできるAIを実現します。

仕組み

このシステムは、作業の約90%がデバイス上で行われ、残りの10%がユーザー自身のChatGPTサブスクリプションを介してフロンティアモデルを使用するハイブリッド計算アーキテクチャを採用しています。

ローカル処理: 毎晩午前3時にシステムがMacを起動し、ローカルモデル（Gemma 4 E4B）を使用してファイル、スクリーンショット、WhatsApp、iMessage、Apple Notesを読み取ります。不要な情報や機密性の高いPII（個人識別情報）を除外し、クリーンな要約を作成します。
ナレッジベース: これらの要約は、フロンティアモデルによって蒸留され、Macのローカルに保存されるプレーンなMarkdownファイル（Obsidianスタイル）のフォルダにまとめられます。
プロアクティブなインテリジェンス: フロンティアモデルがナレッジベースを分析して「モーニングカード」（下書きされた返信やタスクのリマインダー）を作成し、ユーザーはワンクリックでこれらを実行できます。
Sidekick: Macのノッチまたはキーボードショートカットからアクセス可能な音声/テキストインターフェースで、「computer use」機能を使用して、ユーザー自身のアプリやブラウザ内でタスクを実行します。
オプションのクラウドミラー: ユーザーは、ゼロアクセスAES-256-GCM暗号化を使用して、ナレッジベースをクラウドMCPサーバーにオプションで同期でき、ClaudeやChatGPTのような他のAIがパーソナルコンテキストにアクセスできるようにできます。

対象ユーザー

厳格なデータプライバシーを維持しながら、高度にパーソナライズされたプロアクティブなAIアシスタントを求める、Apple Silicon（M1以降）を搭載しmacOS 15以降を実行しているMacユーザー。

ハイライト

プライバシー第一のアーキテクチャ: 生の個人データがMacから外部に出ることはありません。PIIを除去した要約のみがクラウドに送信されます。
オンデバイス推論: Apple Siliconに最適化されており、わずか8GBのRAMを搭載したデバイスでも、Gemma 4 E4BのカスタムLiteRT-LMフォークを実行できます。
プロアクティブなワークフロー: プロンプトを待つのではなく、ユーザーの個人的なコンテキストに基づいて夜間にタスクカードを準備します。
Computer Use: Sidekickは、ローカルのアプリケーションやブラウザと対話して、タスクを自律的に完了できます。
透明性のあるメモリ: ナレッジベースは、ブラックボックスのデータベースではなく、編集可能なMarkdownファイルとして保存されます。