sympozium-ai/sympozium

The Coordination Layer for Multi-Agent AI

解決的問題

Sympozium 為多智能體 AI 系統提供 Kubernetes 原生的協調層。它解決了多個智能體需共享上下文、交接任務並維持共享情境感知的挑戰,將智能體視為 Pod,策略視為自訂資源定義(CRD)。

工作原理

Sympozium 作為控制平面,管理 AI 智能體的執行與互動。它使用 Kubernetes 原語處理智能體部署,每個執行皆為 Job,每個智能體皆為 Pod。它與各種推理引擎(如 vLLM 或 llama.cpp)和 AI 提供商(OpenAI、Anthropic 等)整合,避免供應商鎖定。主要機制包括:

  • 合成膜(Synthetic Membrane):透過信任群組與可見性標籤控制智能體之間共享的資訊。
  • 集合(Ensembles):可作為單一套件激活的智能體團隊捆綁包。
  • 共享工作流程記憶(Shared Workflow Memory):用於跨角色知識共享的套件級 SQLite 記憶體池。
  • 技能邊車(Skill Sidecars):在具有暫時 RBAC 的隔離邊車中執行智能體技能。
  • 智能體沙箱(Agent Sandbox):透過 gVisor 或 Kata 提供核心層隔離,實現安全的智能體執行。

適用對象

專為在 Kubernetes 上建構需要強大編排、安全性與可擴展性的複雜多智能體 AI 系統的開發者與平台工程師設計。

主要亮點

  • K8s 原生架構:使用 CRD 與標準 Kubernetes 排程器進行智能體與模型部署。
  • 多通道支援:透過 NATS JetStream 原生整合 Telegram、Slack、Discord 與 WhatsApp。
  • MCP 伺服器整合:支援 Model Context Protocol 用於外部工具發現與過濾。
  • 全面治理:集群級 SympoziumPolicy,支援工具門禁、網路出口與映像倉儲白名單。
  • 可觀測性:內建 OpenTelemetry 追蹤、Prometheus 指標與每次執行的 token 成本估算。

相關

  • 專案
  • 專案
  • 專案
  • 專案