Sentient-OS-Labs/sentient-os

An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.

解決する課題

Sentient OSは、現在のAIアシスタントにおけるプライバシーとコンテキストの欠如を解決します。ほとんどのAIは、ユーザーがデジタルライフのすべてをクラウドのチャットボックスにアップロードできないため、深い個人的なコンテキストを欠いており、通常は受動的であり、プロアクティブではありません。Sentient OSは、ユーザーの生活に関するプライベートなオンデバイスメモリを作成し、個人的なコンテキストを理解し、プロアクティブにタスクを実行できるAIを可能にします。

仕組み

このシステムは、作業の90%がApple Silicon搭載のMac上でローカルに行われるハイブリッド計算モデルを使用しています。

  1. ローカル処理: 毎晩午前3時に、ローカルLLM (Gemma 4 E4B) がディスクからファイル、スクリーンショット、メッセージ (WhatsApp, iMessage, Apple Notes) を直接読み取ります。データを「保持」、「不要」、「機密」に分類し、後者の2つは即座に破棄します。
  2. ナレッジベースの作成: PII(個人識別情報)を削除した要約が、Mac上のプレーンなMarkdownファイルのフォルダに蒸留されるために、フロンティアモデル(ユーザー自身のChatGPT/OpenRouter/LM Studioのサブスクリプション経由)に送信されます。
  3. プロアクティブなインテリジェンス: フロンティアモデルがナレッジベースを分析し、ユーザーの生活に基づいた「モーニングカード」(プロアクティブな提案や返信の下書き)を作成します。
  4. Sidekick: ローカルナレッジベースに基づき、ユーザー自身のアプリやブラウザ内でタスクを実行するために「computer use」機能を使用する、音声/テキストインターフェースです。
  5. オプションの同期: オプションのゼロアクセス暗号化MCPサーバーを使用して、ナレッジベースをクラウドにミラーリングし、他のAI(ClaudeやChatGPT mobileなど)がパーソナルコンテキストにアクセスできるようにできます。

対象者

厳格なローカルプライバシーを維持しつつ、高度にパーソナライズされたプロアクティブなAIエージェントを求める、Apple Silicon (M1以降) を搭載し macOS 15以上を実行しているMacユーザー。

ハイライト

  • プライバシー第一のアーキテクチャ: 生データがMacから離れることはありません。PIIを削除した要約のみがフロンティアモデルに送信されます。
  • オンデバイス推論: Gemma 4 E4BのカスタムLiteRT-LMフォークを使用し、8GB RAMのMac向けに最適化されています。
  • プロアクティブなエージェンシー: 夜間にタスクや返信を自動的に下書きするため、朝には準備ができています。
  • Computer Use: Sidekickエージェントは、タスクを完了するためにMacのアプリケーションやブラウザと対話できます。
  • 透明性のあるメモリ: ナレッジベースは、ブラックボックスではなく、編集可能なMarkdownファイルのフォルダとして保存されます。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト