sympozium-ai/sympozium

Sympozium – 面向多智能体AI的Kubernetes原生协调层

它是什么

• 一个运行在Kubernetes上的开源控制平面，让你像K8s编排容器一样编排许多由LLM驱动的智能体。
• 智能体作为隔离的工作负载（Pod、称为Celln的微虚拟机）部署。所有策略——智能体可以看到什么、可以使用哪些模型、可以接触哪些机密——都表示为Custom Resource Definitions（CRD）。

关键理念

功能	重要性
Synthetic Membrane	细粒度的共享规则（信任组、可见性标签、字段级门控）让智能体团队在不泄露所有内容的情况下获得共享的情境感知。
Ensembles	将一组智能体、调度和记忆打包成类似Helm的包，通过单个CRD即可激活。
Shared Workflow Memory	基于SQLite的记忆池（支持FTS5），智能体可读写，具有每个智能体的访问控制和自动衰减。
Model Endpoints as CRDs	声明一次模型（GGUF文件、HuggingFace仓库等），Sympozium会启动推理服务器（vLLM、llama.cpp、TGI等）并暴露OpenAI兼容端点。密钥经过中介，因此智能体Pod永远不会看到提供商机密。
Skill Sidecars	每个“技能”在最低权限的边车容器中运行，任务完成后自动垃圾回收。
Celln fleet	在具有/dev/kvm的节点上，平台为长期运行的智能体启动硬件隔离的微虚拟机（Celln），通过预热池提供强隔离和快速启动。
Multi-Channel adapters	内置Telegram、Slack、Discord、WhatsApp的Deployments，由NATS JetStream支持，将聊天消息转换为智能体事件。
Policy & Governance CRDs	SympoziumPolicy让操作员在每个智能体运行中强制执行允许/拒绝列表、网络出口规则、镜像仓库白名单和机密访问控制。
Observability	OpenTelemetry跟踪、Prometheus指标、每次运行的令牌使用成本估算。
CLI / TUI / Web UI	sympozium命令安装堆栈，启动终端UI，或提供浏览器仪表板以显示可视化工作流画布。

使用方法

1. 安装 – 通过Homebrew、Shell脚本或Helm（先CRD，然后是控制平面）。安装程序检查KVM支持的节点并设置Celln集群。
2. 定义资源 – 为模型、智能体、集成、策略等创建CRD。
3. 运行智能体 – 智能体可以是一次性Job、长期运行的HTTP服务，或通过安全适配器与平台通信的外部工具。
4. 观察与迭代 – UI显示智能体管道的实时画布；指标监控成本和性能。

它不做什么

• 不托管实际的LLM推理；它声明模型并将其交给单独的能力层（例如llmfit-dra、vLLM、SGLang）。
• 不替代服务引擎；令牌路由留给您插入的推理服务器。

谁可能需要

• 构建复杂AI工作流的团队，多个专业智能体需要传递上下文、强制执行安全性并在共享的Kubernetes基础设施上运行。
• 希望跨本地或云集群进行审计就绪、策略驱动AI编排的企业。

状态

• 积极开发中；API可能更改。CI徽章和近期发布表明代码库可运行。

许可证

• MIT。

---

上述所有细节均直接取自仓库的README。