octos-org/octos

Octos – 你可自行執行的開源「智能體作業系統」

是什麼 – Octos 是以 Rust 寫成的後端，讓你能在自己的電腦（或自架伺服器）上執行功能完整的 AI 助手。它可連接任一主流 LLM 提供商（OpenAI、Anthropic、Gemini、DeepSeek 等），並提供豐富的 REST 端點與 JSON-RPC「UI 協定」，供客戶端應用使用。

為何重要 – 多數聊天機器人專案都是單一使用者、單一模型的服務。Octos 專為 多租戶 設計：一個僅 31 MB 的二進位檔即可主機數百個隔離的「設定檔」，每個設定檔擁有獨立的提示詞、模型、工具與記憶。它也支援 多 LLM 流程（不同步驟使用不同模型）與 群集調度，可將工作分發給多個工作節點並聚合結果。

核心元件

• Kernel（本倉儲） – 核心執行時：提供者適配器、工具沙箱、記憶層、會話處理與 HTTP/WebSocket API。
• octos-web – 瀏覽器端 UI（聊天、語音、文件建立、管理儀表板），已打包進二進位檔，透過 /app/ 提供服務。
• octoscode – 類似 Claude Code 的終端風格客戶端。

如何執行

1. 透過 Homebrew、npm 或提供的 install.sh 腳本安裝二進位檔。
2. 執行 octos init 選擇提供者與模型，再透過 octos auth login 登入。
3. 使用 octos serve --solo（本地開發）啟動伺服器，或安裝為背景服務（埠 8080）。
4. 開啟 http://localhost:50080/app/（或服務埠）開始對話。

實際可用的功能

• 80+ 個 REST 端點：用於聊天、會話、設定檔、技能、排程、指標、Webhook 等。
• 14 種訊息通道（Telegram、Discord、WhatsApp、Slack 類服務、Matrix 等）—— 同一後端可被多個聊天應用存取。
• 工具沙箱：使用 bwrap、Landlock、Docker 或 Windows AppContainer 安全執行程式碼、網路搜尋、檔案操作、辦公套件產生（DOCX/PPTX/XLSX）。
• 三層記憶：長期實體儲存、事件型 Redb 儲存，以及由 LLM 驅動壓縮的會話級 JSONL。
• 自主性原語：/goal <目標> 可讓智能體跨回合持續工作，/loop 可執行週期性任務，可將會話回滾至任意先前回合。
• 群集調度器：將請求分發給多個工作節點（含外部 MCP 工具），並聚合結果，內建成本追蹤與故障轉移功能。
• 提供者故障轉移：三層路由（重試 → 串接 → 自適應），可在模型間進行風險對沖，並在出錯時切斷電路。
• 其他語言綁定：C/Go（octos-ffi）、Python（octos-pyo3）、Swift/Kotlin（octos-uniffi）、WebAssembly（octos-wasm）。
• UI 協定 v1：基於 WebSocket 或 stdio 的 JSON-RPC，使任何前端（Web、終端、編輯器）均可與同一後端通訊。

典型使用情境

• 一個可在本地執行程式碼、瀏覽網路、記錄筆記的個人 AI 助手，同時確保資料在本地。
• 一個團隊級「智能體作業系統」，每位使用者擁有獨立設定檔，但共享同一伺服器。
• 透過 Rust crate 或語言綁定將智能體迴圈嵌入其他軟體中。
• 建構呼叫外部工具的自訂智能體，透過 MCP（模型客戶端協定）系統實現。

進一步了解

• 完整文件網站： https://octos-org.github.io/octos/
• 自架指南（含雲端＋租戶部署）： https://github.com/octos-org/octos-web#self-hosting--deployment
• 問題追蹤器（求助用）： https://github.com/octos-org/octos/issues

---

總結 – Octos 是一個真正的、生產級的開源平台，支援在本地或自架環境中執行 AI 智能體，專注於多租戶隔離、可擴展工具鏈，以及與多個 LLM 提供商的深度整合。它文件完整、持續維護，並設計為 AI 驅動應用的「作業系統」。