osaurus-ai/osaurus

解决的问题

Osaurus 是一款专为 macOS 设计的本地 AI 汇集器，允许用户拥有自己的 AI 身份、记忆和工具。它通过将模型的「外围层」——包括代理、记忆和身份——完全保留在用户设备上，防止个人上下文和数据被锁定在云端服务器。同时，仍支持灵活连接本地或云端的 LLM。

工作原理

Osaurus 以 Swift 为 Apple Silicon 原生构建，作为用户与各种 AI 模型之间的中介。它管理一个由专用代理组成的系统，每个代理都有自己的提示词和记忆。这些代理可以在隔离的 Linux VM 安全沙箱（或旧版本上的 macOS Seatbelt 沙箱）中执行代码，以确保系统安全。它采用三层记忆系统（身份、固定事实、会话事件）来维持连续性，同时避免上下文窗口膨胀。为保护隐私，它内置设备端分类器，在数据发送给云服务提供商前清除敏感的 PII 信息。

适用人群

希望拥有一个私密、离线可用的 AI 助手系统，能够执行代码、浏览网页，并与本地文件和应用程序集成，同时不牺牲隐私或依赖纯云端生态系统的 Mac 用户。

主要亮点

• 本地优先架构：通过 MLX 支持本地模型，实现完全离线运行，或可选地连接云端。
• 安全沙箱：通过 Apple 的容器化框架驱动的隔离 Linux VM 中执行代码。
• 代理能力：支持子代理、带待办事项列表的自主循环，以及内置的协调器用于任务委派。
• 隐私过滤器：在发送至云端模型请求前，设备端检测并清除敏感 PII 信息。
• MCP 集成：既作为 MCP 服务器也作为客户端，聚合来自远程提供者的工具。
• 加密身份：使用 secp256k1 地址实现代理间端到端加密通信。
• 原生性能：使用 Swift 为 Apple Silicon 编写，避免 Electron，实现更高效率。