Sentient-OS-Labs/sentient-os

解決的問題

Sentient OS 解決了目前 AI 助手在隱私與上下文方面的不足。大多數 AI 缺乏深層的個人上下文，因為使用者無法將整個數位生活上傳到雲端聊天框，且它們通常是反應式的而非主動式的。Sentient OS 建立了一個私密的端側使用者生活記憶，從而實現能夠理解個人上下文並能主動執行任務的 AI。

工作原理

該系統採用混合計算模型，90% 的工作在 Apple Silicon Mac 上本地完成。

1. 本地處理：每天凌晨 3 點，本地 LLM (Gemma 4 E4B) 直接從磁碟讀取檔案、螢幕截圖和訊息 (WhatsApp, iMessage, Apple Notes)。它將數據分類為「保留」、「垃圾」或「敏感」，並立即丟棄後兩者。
2. 知識庫建立：去除 PII（個人識別資訊）後的摘要會被發送到前沿模型（透過使用者自己的 ChatGPT/OpenRouter/LM Studio 訂閱），並被蒸餾到 Mac 上的一個純 Markdown 檔案資料夾中。
3. 主動智能：前沿模型分析知識庫，根據使用者生活起草「早間卡片」——即基於使用者生活的建議與回覆草稿。
4. Sidekick：一個語音/文字介面，利用「computer use」能力在使用者自己的應用程式與瀏覽器中執行任務，並以本地知識庫為基礎。
5. 選配同步：一個選配的零存取加密 MCP 伺服器可以將知識庫鏡像到雲端，以便其他 AI（如 Claude 或 ChatGPT 行動版）可以存取個人上下文。

適用對象

使用 Apple Silicon (M1 或更高版本) 並執行 macOS 15+ 的 Mac 使用者，他們希望擁有一個保持嚴格本地隱私的高度個人化、主動型 AI 智能體。

亮點

• 隱私優先架構：原始數據絕不會離開 Mac；只有去除 PII 的摘要會被發送到前沿模型。
• 端側推論：針對使用 Gemma 4 E4B 的自定義 LiteRT-LM 分支的 8GB RAM Mac 進行了優化。
• 主動代理：在夜間自動起草任務與回覆，以便早晨即可使用。
• 電腦使用：Sidekick 智能體可以與 Mac 應用程式與瀏覽器互動以完成任務。
• 透明記憶：知識庫以可編輯的 Markdown 檔案資料夾形式儲存，而不是黑箱。