agent-substrate/substrate
Agent Substrate: the core system
Agent Substrate – 用于在 Kubernetes 上扩展 AI Agent 的高密度、安全沙箱运行时
是什么 – Agent Substrate 是一个 Kubernetes 原生执行平台,它在隔离的沙箱中运行 actors(有状态的过程,例如 AI agents、工具调用服务或任何长运行的工作负载)。它将许多 actors 复用(multiplex)到少量的物理 pods 上,在保持低于 500 ms 的“恢复”延迟的同时,实现了比普通容器高出 10 倍的密度。
为什么对 AI 很重要 – 现代自主 Agent 在大部分时间里都是空闲的,正在等待新的请求。Substrate 利用这一点,通过挂起 actor 的整个进程(包括 RAM 和文件系统)并根据需要进行恢复,从而让单个 worker pod 能够托管数十个 agents。这极大地降低了大规模 agent 舰队的计算成本,并使得在适度的 Kubernetes 集群上运行数千个沙箱化的 agents 变得可行。
核心概念
| Term | Meaning |
|---|---|
| Actor | 单个 agent 或服务,拥有自己的状态(内存、文件)并可以被启动、停止或迁移。 |
| WorkerPool | 实际运行沙箱的一组 Kubernetes pods。Workers 在许多 actors 之间共享。 |
| Atespace | 一组 actors 的类命名空间隔离边界。 |
| ActorTemplate | 定义如何启动特定类型 actor 的容器镜像和配置。 |
| Suspend/Resume (Teleport) | 对 actor 的完整状态进行快照,将其存储(例如在 PostgreSQL 中),并随后在任何空闲的 worker 上恢复它。 |
关键特性(如 README 中所述)
- 大规模复用 – > 30× 超额订阅;演示显示仅在 8 个 pods 上运行了 ~250 个有状态 actors。
- 亚秒级激活 – 恢复延迟低于 500 ms,每秒 > 500 次挂起/恢复周期。
- 零信任隔离 – 支持 gVisor micro‑VMs 和 cloud‑hypervisor microVMs,实现内核级沙箱化。
- 状态持久化 – 完整的 RAM 和文件系统快照可在休眠后保留,从而实现 “actor teleport”。
- 框架无关 – 适用于任何 agent stack (ADK, LangChain, Claude Code, Model Context Protocol, 等),因为它运行标准的 OCI containers。
- Kubernetes 集成 – 使用原生的 Pods、Pod autoscaling 和自定义控制器 (WorkerPool CRD) 进行调度和扩展。
- CLI (
kubectl-ate) – 提供简单的命令来创建、列出、挂起、恢复和删除 actors。 - 可观测性与安全性 – 内置日志、指标、基于 JWT 的身份验证以及威胁模型文档。
典型用例
- 大规模自主 Agent 舰队 – 部署数千个聊天或工具调用 agents,而无需为每个 agent 分配一个 pod。
- 有状态工具服务 – 运行沙箱化的代码执行环境(例如 Claude Code, Antigravity),这些环境需要在调用之间保持文件系统。
- 基于 RL 的 Agent 循环研究 – 在单个 Kubernetes 集群中结合推理、工具使用和训练周期,让调度器在负载变化时在 workers 之间移动 actors。
- Secure multi-tenant execution – 使用 gVisor 或 micro-VM 隔离来保护每个 agent 的代码和数据。
项目状态
- 早期开发阶段 – API 仍在演进中;尚未达到生产就绪状态。
- 支持的 Kubernetes 版本 – 最新稳定版本和前一个次要版本。
- Roadmap – 详见
docs/roadmap.md;包括稳定性、更丰富的自动扩缩容和更广泛的沙箱支持。
快速入门(开发)摘要
# Prereqs: go, kubectl, docker (kind will be installed automatically)
# Prereqs: go, kubectl, docker (kind will be installed automatically)
hack/create-kind-cluster.sh # spin up a local kind cluster
hack/install-ate-kind.sh --deploy-ate-system # install Substrate control plane
hack/install-ate-kind.sh --deploy-demo-counter # deploy the sample counter actor
go install ./cmd/kubectl-ate # install the CLI
kubectl ate create actor my-counter-1 -a ate-demo-counter --template counter
kubectl port-forward -n ate-system svc/atenet-router 8000:80
curl -X POST -H "ate-target-actor: ate-demo-counter/my-counter-1" http://localhost:8000/
同样的流程也适用于 GKE,使用 README 中描述的 setup-gcp 工具。
生态系统与集成
- Agent Executor (google/ax) – 基于 Substrate 构建的分布式 agent runtime。
- kagent – CNCF-sandbox 项目,使用 Substrate 运行有状态的 AI agents。
- Demo collection – Counter, sandbox, Claude Code multiplex, request parking, autoscaled worker-pools, 等。
社区与贡献
- Google Group:
ate-dev用于公告和讨论。 - Weekly sync: 周四 10 am – 11 am PST (video call & dial-in)。
- Slack: CNCF 频道
#substrate-usersand#substrate-dev。 - Contributing – 见
CONTRIBUTING.md;项目还很年轻,因此贡献应与核心系统和 demo 工作对齐齐。
更多学习途径
- Architecture doc –
docs/architecture.md - API guide –
docs/api-guide.md - CLI docs –
cmd/kubectl-ate/README.md - YouTube channel – https://www.youtube.com/channel/UCN9PPqlTtVxlcpbQ-NWpfZQ (demo 视频)
Bottom line – Agent Substrate 是一个专为 purpose-built、基于 Kubernetes 的运行时,它让您可以在小型集群上运行许多隔离的、有状态的 AI agents(或任何类似的负载)并具有快速的挂起/恢复和强大的安全保障。它目前仍处于实验阶段,但为构建大规模、具有成本效益的 Agent 基础设施提供了坚实的 foundation 基础。
相关
- 项目
- 项目
- 项目
- 项目
- 项目