Sentient-OS-Labs/sentient-os
An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.
解决的问题
Sentient OS 解决了当前 AI 助手在隐私和上下文方面的不足。大多数 AI 缺乏深层的个人上下文,因为用户无法将整个数字生活上传到云端聊天框,且它们通常是响应式的而非主动式的。Sentient OS 创建了一个私密的端侧用户生活记忆,从而实现能够理解个人上下文并能主动执行任务的 AI。
工作原理
该系统采用混合计算模型,90% 的工作在 Apple Silicon Mac 上本地完成。
- 本地处理:每天凌晨 3 点,本地 LLM (Gemma 4 E4B) 直接从磁盘读取文件、屏幕截图和消息 (WhatsApp, iMessage, Apple Notes)。它将数据分类为“保留”、“垃圾”或“敏感”,并立即丢弃后两者。
- 知识库创建:去除 PII(个人身份信息)后的摘要会被发送到前沿模型(通过用户自己的 ChatGPT/OpenRouter/LM Studio 订阅),并被蒸馏到 Mac 上的一个纯 Markdown 文件文件夹中。
- 主动智能:前沿模型分析知识库,根据用户的生活起草“早间卡片”——即基于用户生活的建议和回复草稿。
- Sidekick:一个语音/文本界面,利用“computer use”能力在用户自己的应用和浏览器中执行任务,并以本地知识库为基础。
- 可选同步:一个可选的零访问加密 MCP 服务器可以将知识库镜像到云端,以便其他 AI(如 Claude 或 ChatGPT 移动版)可以访问个人上下文。
适用人群
使用 Apple Silicon (M1 或更高版本) 并运行 macOS 15+ 的 Mac 用户,他们希望拥有一个保持严格本地隐私的高度个性化、主动型 AI 智能体。
亮点
- 隐私优先架构:原始数据绝不会离开 Mac;只有去除 PII 的摘要会被发送到前沿模型。
- 端侧推理:针对使用 Gemma 4 E4B 的自定义 LiteRT-LM 分支的 8GB RAM Mac 进行了优化。
- 主动代理:在夜间自动起草任务和回复,以便早晨即可使用。
- 计算机使用:Sidekick 智能体可以与 Mac 应用程序和浏览器交互以完成任务。
- 透明记忆:知识库以可编辑的 Markdown 文件文件夹形式存储,而不是黑箱。
相关
- 项目
- 项目
- 项目
- 项目