osaurus-ai/osaurus

解決的問題

Osaurus 是一款專為 macOS 設計的本地 AI 匯集器，允許使用者擁有自己的 AI 身份、記憶與工具。它透過將模型的「周圍層」——包括代理、記憶與身份——完全保留在使用者的裝置上，防止個人上下文與資料被鎖定在雲端伺服器。同時，仍支援靈活連接本地或雲端的 LLM。

工作原理

Osaurus 以 Swift 為 Apple Silicon 原生建構，作為使用者與各種 AI 模型之間的中介。它管理一個由專用代理組成的系統，每個代理都有自己的提示詞與記憶。這些代理可以在隔離的 Linux VM 安全沙箱（或舊版本上的 macOS Seatbelt 沙箱）中執行程式碼，以確保系統安全。它採用三層記憶系統（身份、固定事實、會話事件）來維持連續性，同時避免上下文視窗膨脹。為保護隱私，它內建設備端分類器，在資料傳送給雲端服務提供者前清除敏感的 PII 資訊。

適用對象

希望擁有私密、離線可用的 AI 助手系統，能夠執行程式碼、瀏覽網頁，並與本地檔案與應用程式整合，同時不犧牲隱私或依賴純雲端生態系統的 Mac 使用者。

主要亮點

• 本地優先架構：透過 MLX 支援本地模型，實現完全離線運作，或可選地連接雲端。
• 安全沙箱：透過 Apple 的容器化框架驅動的隔離 Linux VM 中執行程式碼。
• 代理能力：支援子代理、帶待辦事項清單的自主循環，以及內建的協調器用於任務委派。
• 隱私過濾器：在傳送至雲端模型請求前，設備端檢測並清除敏感 PII 資訊。
• MCP 集成：既作為 MCP 伺服器也作為客戶端，聚合來自遠端提供者的工具。
• 加密身份：使用 secp256k1 位址實現代理間端對端加密通訊。
• 原生效能：使用 Swift 為 Apple Silicon 編寫，避免 Electron，實現更高效率。