agent-substrate/substrate

Agent Substrate: the core system

Agent Substrate – 用于在 Kubernetes 上扩展 AI Agent 的高密度、安全沙箱运行时

是什么 – Agent Substrate 是一个 Kubernetes 原生执行平台,它在隔离的沙箱中运行 actors(有状态的过程,例如 AI agents、工具调用服务或任何长运行的工作负载)。它将许多 actors 复用(multiplex)到少量的物理 pods 上,在保持低于 500 ms 的“恢复”延迟的同时,实现了比普通容器高出 10 倍的密度。

为什么对 AI 很重要 – 现代自主 Agent 在大部分时间里都是空闲的,正在等待新的请求。Substrate 利用这一点,通过挂起 actor 的整个进程(包括 RAM 和文件系统)并根据需要进行恢复,从而让单个 worker pod 能够托管数十个 agents。这极大地降低了大规模 agent 舰队的计算成本,并使得在适度的 Kubernetes 集群上运行数千个沙箱化的 agents 变得可行。


核心概念

Term Meaning
Actor 单个 agent 或服务,拥有自己的状态(内存、文件)并可以被启动、停止或迁移。
WorkerPool 实际运行沙箱的一组 Kubernetes pods。Workers 在许多 actors 之间共享。
Atespace 一组 actors 的类命名空间隔离边界。
ActorTemplate 定义如何启动特定类型 actor 的容器镜像和配置。
Suspend/Resume (Teleport) 对 actor 的完整状态进行快照,将其存储(例如在 PostgreSQL 中),并随后在任何空闲的 worker 上恢复它。

关键特性(如 README 中所述)

  • 大规模复用 – > 30× 超额订阅;演示显示仅在 8 个 pods 上运行了 ~250 个有状态 actors。
  • 亚秒级激活 – 恢复延迟低于 500 ms,每秒 > 500 次挂起/恢复周期。
  • 零信任隔离 – 支持 gVisor micro‑VMs 和 cloud‑hypervisor microVMs,实现内核级沙箱化。
  • 状态持久化 – 完整的 RAM 和文件系统快照可在休眠后保留,从而实现 “actor teleport”。
  • 框架无关 – 适用于任何 agent stack (ADK, LangChain, Claude Code, Model Context Protocol, 等),因为它运行标准的 OCI containers。
  • Kubernetes 集成 – 使用原生的 Pods、Pod autoscaling 和自定义控制器 (WorkerPool CRD) 进行调度和扩展。
  • CLI (kubectl-ate) – 提供简单的命令来创建、列出、挂起、恢复和删除 actors。
  • 可观测性与安全性 – 内置日志、指标、基于 JWT 的身份验证以及威胁模型文档。

典型用例

  1. 大规模自主 Agent 舰队 – 部署数千个聊天或工具调用 agents,而无需为每个 agent 分配一个 pod。
  2. 有状态工具服务 – 运行沙箱化的代码执行环境(例如 Claude Code, Antigravity),这些环境需要在调用之间保持文件系统。
  3. 基于 RL 的 Agent 循环研究 – 在单个 Kubernetes 集群中结合推理、工具使用和训练周期,让调度器在负载变化时在 workers 之间移动 actors。
  4. Secure multi-tenant execution – 使用 gVisor 或 micro-VM 隔离来保护每个 agent 的代码和数据。

项目状态

  • 早期开发阶段 – API 仍在演进中;尚未达到生产就绪状态。
  • 支持的 Kubernetes 版本 – 最新稳定版本和前一个次要版本。
  • Roadmap – 详见 docs/roadmap.md;包括稳定性、更丰富的自动扩缩容和更广泛的沙箱支持。

快速入门(开发)摘要

# Prereqs: go, kubectl, docker (kind will be installed automatically)
# Prereqs: go, kubectl, docker (kind will be installed automatically)
hack/create-kind-cluster.sh                     # spin up a local kind cluster
hack/install-ate-kind.sh --deploy-ate-system    # install Substrate control plane
hack/install-ate-kind.sh --deploy-demo-counter   # deploy the sample counter actor
go install ./cmd/kubectl-ate                    # install the CLI
kubectl ate create actor my-counter-1 -a ate-demo-counter --template counter
kubectl port-forward -n ate-system svc/atenet-router 8000:80
curl -X POST -H "ate-target-actor: ate-demo-counter/my-counter-1" http://localhost:8000/

同样的流程也适用于 GKE,使用 README 中描述的 setup-gcp 工具。


生态系统与集成

  • Agent Executor (google/ax) – 基于 Substrate 构建的分布式 agent runtime。
  • kagent – CNCF-sandbox 项目,使用 Substrate 运行有状态的 AI agents。
  • Demo collection – Counter, sandbox, Claude Code multiplex, request parking, autoscaled worker-pools, 等。

社区与贡献

  • Google Group: ate-dev 用于公告和讨论。
  • Weekly sync: 周四 10 am – 11 am PST (video call & dial-in)。
  • Slack: CNCF 频道 #substrate-users and #substrate-dev
  • Contributing – 见 CONTRIBUTING.md;项目还很年轻,因此贡献应与核心系统和 demo 工作对齐齐。

更多学习途径


Bottom line – Agent Substrate 是一个专为 purpose-built、基于 Kubernetes 的运行时,它让您可以在小型集群上运行许多隔离的、有状态的 AI agents(或任何类似的负载)并具有快速的挂起/恢复和强大的安全保障。它目前仍处于实验阶段,但为构建大规模、具有成本效益的 Agent 基础设施提供了坚实的 foundation 基础。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目