sympozium-ai/sympozium

The Coordination Layer for Multi-Agent AI

解决的问题

Sympozium 为多智能体 AI 系统提供了一个 Kubernetes 原生的协调层。它解决了多个智能体需要共享上下文、交接任务并保持共享情境感知的挑战,将智能体视为 Pod,策略视为自定义资源定义(CRD)。

工作原理

Sympozium 作为控制平面,管理 AI 智能体的执行与交互。它使用 Kubernetes 原语处理智能体部署,每个执行都是一个 Job,每个智能体都是一个 Pod。它与各种推理引擎(如 vLLM 或 llama.cpp)和 AI 提供商(OpenAI、Anthropic 等)集成,避免供应商锁定。主要机制包括:

  • 合成膜(Synthetic Membrane):通过信任组和可见性标签控制智能体之间共享的信息。
  • 集合(Ensembles):可作为一个整体激活的智能体团队捆绑包。
  • 共享工作流内存(Shared Workflow Memory):用于跨角色知识共享的包级别 SQLite 内存池。
  • 技能边车(Skill Sidecars):在具有临时 RBAC 的隔离边车中运行智能体技能。
  • 智能体沙箱(Agent Sandbox):通过 gVisor 或 Kata 提供内核级隔离,实现安全的智能体执行。

适用人群

专为在 Kubernetes 上构建需要强大编排、安全性和可扩展性的复杂多智能体 AI 系统的开发者和平台工程师设计。

主要亮点

  • K8s 原生架构:使用 CRD 和标准 Kubernetes 调度器进行智能体和模型的部署。
  • 多通道支持:通过 NATS JetStream 原生集成 Telegram、Slack、Discord 和 WhatsApp。
  • MCP 服务器集成:支持 Model Context Protocol 用于外部工具发现和过滤。
  • 全面治理:集群级 SympoziumPolicy,支持工具门禁、网络出口和镜像仓库白名单。
  • 可观测性:内置 OpenTelemetry 跟踪、Prometheus 指标和每运行一次的 token 成本估算。

相关

  • 项目
  • 项目
  • 项目
  • 项目