sympozium-ai/sympozium
The Coordination Layer for Multi-Agent AI
解决的问题
Sympozium 为多智能体 AI 系统提供了一个 Kubernetes 原生的协调层。它解决了多个智能体需要共享上下文、交接任务并保持共享情境感知的挑战,将智能体视为 Pod,策略视为自定义资源定义(CRD)。
工作原理
Sympozium 作为控制平面,管理 AI 智能体的执行与交互。它使用 Kubernetes 原语处理智能体部署,每个执行都是一个 Job,每个智能体都是一个 Pod。它与各种推理引擎(如 vLLM 或 llama.cpp)和 AI 提供商(OpenAI、Anthropic 等)集成,避免供应商锁定。主要机制包括:
- 合成膜(Synthetic Membrane):通过信任组和可见性标签控制智能体之间共享的信息。
- 集合(Ensembles):可作为一个整体激活的智能体团队捆绑包。
- 共享工作流内存(Shared Workflow Memory):用于跨角色知识共享的包级别 SQLite 内存池。
- 技能边车(Skill Sidecars):在具有临时 RBAC 的隔离边车中运行智能体技能。
- 智能体沙箱(Agent Sandbox):通过 gVisor 或 Kata 提供内核级隔离,实现安全的智能体执行。
适用人群
专为在 Kubernetes 上构建需要强大编排、安全性和可扩展性的复杂多智能体 AI 系统的开发者和平台工程师设计。
主要亮点
- K8s 原生架构:使用 CRD 和标准 Kubernetes 调度器进行智能体和模型的部署。
- 多通道支持:通过 NATS JetStream 原生集成 Telegram、Slack、Discord 和 WhatsApp。
- MCP 服务器集成:支持 Model Context Protocol 用于外部工具发现和过滤。
- 全面治理:集群级
SympoziumPolicy,支持工具门禁、网络出口和镜像仓库白名单。 - 可观测性:内置 OpenTelemetry 跟踪、Prometheus 指标和每运行一次的 token 成本估算。
相关
- 项目
- 项目
- 项目
- 项目