Kocoro-lab/Shannon

解決的問題

Shannon 解決了將 AI 代理部署至生產環境時的可靠性與可觀測性差距。它解決了常見的生產問題，例如靜默的代理失敗、不斷攀升的 token 成本、缺乏執行可見性，以及執行代理生成程式碼所帶來的安全風險。

工作原理

Shannon 使用多語言架構（Go、Rust 和 Python）來編排代理。它利用 Temporal 工作流程實現容錯與狀態管理，支援「時間旅行除錯」，允許對執行過程進行逐步回放。在安全性方面，採用 WASI 沙箱隔離程式碼執行。系統會根據請求的複雜度，自動將任務路由至不同的執行策略（如 DAG、ReAct、Research 或 Swarm）。它還實現了硬性 token 預算與自動模型降級，以控制成本。

適用對象

希望超越 AI 原型階段，建構具備內建監控、預算控制與安全沙箱的可靠生產級 AI 代理的開發者與組織。

主要亮點

• 時間旅行除錯：可逐步回放任意工作流程執行，以診斷失敗原因。
• Token 預算控制：為每個任務設定硬性 token 限制，並自動降級至更便宜的模型。
• 多策略編排：自動在簡單回應、DAG、ReAct 迴圈與 Swarm 協作之間路由任務。
• 安全執行：使用 WASI 沙箱執行程式碼，並透過 OPA 策略保障安全。
• 廣泛提供者支援：支援 10+ LLM 提供者，包括 OpenAI、Anthropic、Google，以及透過 Ollama 運行的本地模型。
• 人機協同：關鍵代理操作內建審核門禁。