jonwiggins/optio
Workflow orchestration for AI agent swarms.
Optio – 可自託管的 AI 代理編排平台
它是什麼 – Optio 是一個開源控制平面,讓您能在自己的 Kubernetes 叢集或開發者筆電上,將 AI 驅動的代理(Claude Code、OpenAI Codex、GitHub Copilot、Gemini 等)作為會話運行。會話由五個簡單屬性(何時、何地、誰、什麼、然後)定義,可以是從「將工單轉為合併 PR」的一次性工作流程,到長效、訊息驅動的代理群。
為什麼重要 – 大多數商業「AI 代理」服務僅限 SaaS,將您鎖定在單一模型中,並要求您將原始碼和機密傳送到第三方雲端。Optio 將編排層置於您的基礎設施內,提供單一 UI/API 來排程、觸發和監控所有代理工作,並讓您自由混搭任何您信任的供應商模型。
核心概念
| 概念 | 解釋 |
|---|---|
| Session | 一個持久、可觀察的工作單元,透過單一表單建立。表單捕捉 When(觸發器)、Where(K8s pod 或本地機器)、Who(模型/執行環境)、What(提示詞或模板)以及 Then(退出、等待或持久化)。 |
| Feed | 所有會話出現在同一個時間軸資訊流中,具有統一的狀態量表(needs-you → running → queued → … → done/failed)。 |
| Reconciliation control plane | 一個 Kubernetes 風格的迴圈,根據凍結的世界快照決定每個會話的下一個狀態,並使用 compare-and-swap 應用變更,確保不會發生卡住的執行。 |
| Persistent agents & swarms | 在回合間保持狀態、擁有收件匣,並能透過內部 HTTP API 互相傳遞訊息的命名代理。適用於分派者-專家模式。 |
| Connections (MCP) | 預先配置的整合(Notion、Slack、Linear、GitHub、PostgreSQL、Sentry、自訂 HTTP API 等),在啟動時注入 pod,賦予代理對外部工具安全、受限的存取權。 |
您現在可以做什麼
- Ticket → merged PR – 指派 GitHub/Linear/Jira 工單;Optio 佈建一個 repo pod,運行所選模型,開啟 PR,監控 CI,運行審查代理,並在綠燈時自動合併。
- Scheduled / webhook jobs – 每日依賴審計、PagerDuty 分流、每週 Slack 報告、DB-to-Notion 查詢,皆由 cron 或傳入的 webhook 驅動。
- Recurring blueprints – 將會話儲存為藍圖,並在每個觸發負載上自動執行。
- Local automations – 在開發者工作站上運行代理(使用其自己的 CLI 登入),處理如 GitHub 審查請求或 Slack 提及等事件;機密永遠不會離開機器。
- Interactive terminals – 在瀏覽器或 iOS App 中開啟模型支援的終端,獲取即時日誌,並在模型暫停等待輸入時接收「needs-you」通知。
- Agent swarms – 部署一個分派代理,將工作路由至專家代理,每個代理以其自己的 pod 生命週期模式(always-on, sticky, on-demand)運行。
- Cost & usage tracking – UI 中顯示每個會話的 token 使用量、模型特定限制以及每日成本明細。
架構概覽
- Control plane – 純決策函數 (
deriveKind),將五個屬性映射到具體的執行環境(repo pod, pooled pod, 或本地終端)。狀態變更透過具有 CAS 更新和定期重新同步的 K8s 風格協調器流動。 - Pod-per-repo model – 每個儲存庫一個長效 pod 持有 git 工作樹;多個會話共享同一個 clone,減少啟動時間並快取工具。
- Job pods – 為不需要儲存庫的會話(如審計、報告)提供的共享池化 pod。
- Local daemon –
optio local在工作站上運行輕量級守護程序,向伺服器公開 WebSocket,以便觸發器能啟動基於終端的代理。 - Persistence – PostgreSQL 儲存會話元數據、成本帳本和 RBAC 定義;Redis 用於短暫佇列和代理收件匣。
- Security – AES-256-GCM 靜態機密加密、OIDC/OAuth 和 GitHub-App 驗證、Kubernetes RBAC 強制執行,以及可選的後量子安全 TLS。
誰應該考慮 Optio?
- 無法將程式碼或資料傳送到外部 SaaS 的組織(金融、醫療、政府、國防)。
- 希望擁有單一內部「AI 工具」層,向開發者公開提示詞、政策和連接的平台團隊。
- 已經運行 Kubernetes 並尋找現成 Helm chart 的團隊。
- 正在評估多個 LLM 供應商或建構多代理系統的公司。
- 希望在筆電、叢集和行動裝置上擁有相同代理體驗的開發者。
開始使用
- Install – 透過提供的 Helm chart 部署(需要 K8s 叢集、Postgres、Redis)。可選擇在工作站上運行
optio local。 - Configure connections – 一次性新增您的 GitHub、Slack、Notion 等憑證。
- Create a session – 使用 Web UI 或 CLI 填寫單一表單(何時/何地/誰/什麼/然後)。
- Watch – 資訊流顯示即時日誌、成本和狀態;互動式會話可從任何瀏覽器或 iOS App 接管。
TL;DR – Optio 是一個開源、可自託管的平台,讓您能在自己的 Kubernetes 叢集或筆電上運行、排程和監控 AI 代理工作負載(PR 機器人、排程任務、互動式終端、持久代理群),同時將程式碼、機密和模型選擇權掌握在自己手中。
相關
- 專案
- 專案
- 專案
- 專案
- 專案