Sentient-OS-Labs/sentient-os

An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.

解决的问题

Sentient OS 解决了当前 AI 助手在隐私和上下文方面的不足。大多数 AI 工具缺乏深层的个人上下文，因为用户无法将整个数字生活上传到云端，且它们通常是响应式的而非主动式的。Sentient OS 创建了一个本地、私密的个人生活知识库，从而实现能够理解用户特定上下文，并能主动建议任务或通过计算机使用功能执行任务的 AI。

工作原理

该系统采用混合计算架构，其中大约 90% 的工作在设备端完成，10% 通过用户自己的 ChatGPT 订阅使用前沿模型。

  1. 本地处理：每天凌晨 3 点，系统会唤醒 Mac，并使用本地模型 (Gemma 4 E4B) 读取文件、屏幕截图、WhatsApp、iMessage 和 Apple Notes。它会过滤掉垃圾信息和敏感的 PII（个人身份信息），创建干净的摘要。
  2. 知识库：这些摘要由前沿模型提炼成存储在 Mac 本地的纯 Markdown 文件（Obsidian 风格）文件夹。
  3. 主动智能：前沿模型分析知识库以准备“早间卡片”——即草拟的回复或任务提醒——用户可以一键执行这些内容。
  4. Sidekick：一个语音/文本界面（可通过 Mac 缺口或键盘快捷键访问），利用“计算机使用”功能在用户自己的应用和浏览器中执行任务。
  5. 可选云端镜像：用户可以选择使用零访问 AES-256-GCM 加密将知识库同步到云端 MCP 服务器，从而允许 Claude 或 ChatGPT 等其他 AI 访问个人上下文。

适用人群

使用 Apple Silicon (M1 或更高版本) 并运行 macOS 15+ 的 Mac 用户，他们希望在保持严格数据隐私的同时，拥有高度个性化且主动的 AI 助手。

亮点

  • 隐私优先架构：原始个人数据绝不会离开 Mac；只有剥离了 PII 的摘要会被发送到云端。
  • 端侧推理：针对 Apple Silicon 进行了优化，在内存仅为 8GB 的设备上即可运行 Gemma 4 E4B 的自定义 LiteRT-LM 分支。
  • 主动工作流：它不是等待提示词，而是根据用户的个人上下文在夜间准备任务卡片。
  • 计算机使用：Sidekick 可以与本地应用程序和浏览器交互，自主完成任务。
  • 透明记忆：知识库以可编辑的 Markdown 文件形式存储，而不是黑盒数据库。