osaurus
osaurus:它是什麼、解決了什麼問題以及為何受到關注
它解決了什麼
Osaurus 是一款針對 macOS 的本地 AI 框架,讓使用者能掌控自己的 AI 身分、記憶與工具。它透過將身分、記憶與工具執行層保留在使用者的機器上,解決了 AI 資料被鎖在雲端伺服器的問題,同時保持模型無關性,使用者可以在本地與雲端模型之間切換而不會失去個人的 AI 狀態。
工作原理
Osaurus 以 Swift 原生建置於 Apple Silicon,充當使用者與各種大型語言模型(LLM)之間的中介層。它管理具備各自提示與記憶的專屬代理,並提供安全的沙盒環境(透過 Apple Containerization 框架的隔離 Linux VM),讓代理能安全執行程式碼。它使用三層記憶系統(身分、固定事實與會話片段)來維持上下文,並在裝置上運行隱私過濾器,於資料傳送至雲端提供者前清除敏感資訊。
目標使用者
使用 Apple Silicon、macOS 15.5 以上的 Mac 使用者,想要擁有私密、以本地為先的 AI 環境,具備自主代理執行、安全程式碼運行,以及與本機檔案與系統工具整合的能力。
重點特色
- 模型無關:支援本地 MLX 推論(Gemma、Llama 等)、Liquid AI 的 LFM、Apple Foundation Models,以及主要雲端 API(OpenAI、Anthropic 等)。
- 安全沙盒:代理在隔離的 Alpine Linux VM 中執行程式碼,實現每個代理的獨立隔離。
- 隱私優先:內建裝置端分類器,在傳送至雲端前刪除個人可識別資訊(PII),並支援代理之間的端對端加密通訊。
- MCP 整合:同時作為 Model Context Protocol(MCP)伺服器與客戶端,能聚合遠端提供者的工具。
- 原生效能:使用 Swift 編寫,無 Electron,利用 Apple Neural Engine 進行裝置端轉錄,並優化 MLX 執行時。
摘要: Osaurus 是一款針對 macOS 的本地優先 AI 框架,提供在裝置上執行的代理、記憶與工具,使使用者在本地與雲端模型之間切換時,仍能保有自己的 AI 身分與上下文。
標題: osaurus:它是什麼、解決了什麼問題以及為何受到關注
Sources
- undefinedosaurus-ai/osaurus