Sentient-OS-Labs/sentient-os

An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.

解决的问题

Sentient OS 解决了当前 AI 助手在隐私和上下文方面的不足。大多数 AI 缺乏深层的个人上下文,因为用户无法将整个数字生活上传到云端聊天框,且它们通常是响应式的而非主动式的。Sentient OS 创建了一个私密的端侧用户生活记忆,从而实现能够理解个人上下文并能主动执行任务的 AI。

工作原理

该系统采用混合计算模型,90% 的工作在 Apple Silicon Mac 上本地完成。

  1. 本地处理:每天凌晨 3 点,本地 LLM (Gemma 4 E4B) 直接从磁盘读取文件、屏幕截图和消息 (WhatsApp, iMessage, Apple Notes)。它将数据分类为“保留”、“垃圾”或“敏感”,并立即丢弃后两者。
  2. 知识库创建:去除 PII(个人身份信息)后的摘要会被发送到前沿模型(通过用户自己的 ChatGPT/OpenRouter/LM Studio 订阅),并被蒸馏到 Mac 上的一个纯 Markdown 文件文件夹中。
  3. 主动智能:前沿模型分析知识库,根据用户的生活起草“早间卡片”——即基于用户生活的建议和回复草稿。
  4. Sidekick:一个语音/文本界面,利用“computer use”能力在用户自己的应用和浏览器中执行任务,并以本地知识库为基础。
  5. 可选同步:一个可选的零访问加密 MCP 服务器可以将知识库镜像到云端,以便其他 AI(如 Claude 或 ChatGPT 移动版)可以访问个人上下文。

适用人群

使用 Apple Silicon (M1 或更高版本) 并运行 macOS 15+ 的 Mac 用户,他们希望拥有一个保持严格本地隐私的高度个性化、主动型 AI 智能体。

亮点

  • 隐私优先架构:原始数据绝不会离开 Mac;只有去除 PII 的摘要会被发送到前沿模型。
  • 端侧推理:针对使用 Gemma 4 E4B 的自定义 LiteRT-LM 分支的 8GB RAM Mac 进行了优化。
  • 主动代理:在夜间自动起草任务和回复,以便早晨即可使用。
  • 计算机使用:Sidekick 智能体可以与 Mac 应用程序和浏览器交互以完成任务。
  • 透明记忆:知识库以可编辑的 Markdown 文件文件夹形式存储,而不是黑箱。

相关

  • 项目
  • 项目
  • 项目
  • 项目