agent-substrate/substrate

Agent Substrate – AI 에이전트를 위한 고밀도 사전 실행 환경 런타임

무엇인가요 – Agent Substrate는 액터(상태를 유지하는 프로세스, 예: AI 에이전트, 도구 호출 서비스, 또는 장시간 실행되는 작업)를 격리된 사전 실행 환경 안에서 실행하는 Kubernetes 기반 실행 플랫폼입니다. 여러 액터를 소규모 물리적 파드 풀에 다중화하여 일반 컨테이너보다 10배 높은 밀도를 달성하면서도, 복원 지연 시간이 500ms 미만을 유지합니다.

AI에 왜 중요한가요 – 현대의 자율 에이전트는 대부분 새로운 요청을 기다리는 대기 상태에 있습니다. Substrate는 이 특성을 활용해 액터의 전체 프로세스(메모리 및 파일 시스템 포함)를 일시 중지하고 필요 시 복원함으로써, 단일 워커 파드에 수십 개의 에이전트를 호스팅할 수 있게 합니다. 이는 대규모 에이전트 펌 fleet의 컴퓨팅 비용을 크게 줄이며, 보통의 Kubernetes 클러스터에서 수천 개의 격리된 에이전트를 실행하는 것이 가능하게 합니다.

핵심 개념

용어	의미
액터	자체 상태(메모리, 파일)를 가지며 시작, 정지, 이동이 가능한 개별 에이전트 또는 서비스입니다.
워커풀	실제로 사전 실행 환경을 실행하는 Kubernetes 파드의 집합입니다. 워커는 여러 액터 간에 공유됩니다.
Atespace	여러 액터 그룹에 대한 네임스페이스와 유사한 격리 경계입니다.
액터템플릿	특정 종류의 액터가 어떻게 시작되어야 하는지를 정의하는 컨테이너 이미지 및 구성입니다.
일시 중지/복원 (텔레포트)	액터의 전체 상태를 스크래핑하여 저장(예: PostgreSQL)하고, 이후 어떤 자유로운 워커에서라도 복원하는 기능입니다.

주요 기능 (README에 설명된 내용)

대규모 다중화 – 30배 이상의 과잉 할당 가능; 데모에서는 8개의 파드에 약 250개의 상태를 유지하는 액터를 실행합니다.
초당 활성화 – 복원 지연 시간이 500ms 미만이며, 초당 500회 이상의 일시 중지/복원 사이클을 처리할 수 있습니다.
제로 트러스트 격리 – 커널 수준의 사전 실행 환경을 제공하는 gVisor 마이크로VM 및 클라우드 하이퍼바이저 마이크로VM을 지원합니다.
상태 지속성 – 휴면 상태에서도 전체 RAM 및 파일 시스템 스크래핑이 유지되어 '액터 텔레포트' 기능을 가능하게 합니다.
프레임워크 무관성 – ADK, LangChain, Claude Code, Model Context Protocol 등 어떤 에이전트 스택과도 호환되며, 표준 OCI 컨테이너를 실행하기 때문입니다.
Kubernetes 통합 – 네이티브 파드, 파드 오토스케일링, 커스텀 컨트롤러(WorkerPool CRD)를 사용하여 스케줄링 및 확장이 가능합니다.
CLI (kubectl-ate) – 액터 생성, 목록 조회, 일시 중지, 복원, 삭제를 위한 간단한 명령어를 제공합니다.
관측성 및 보안 – 내장된 로깅, 메트릭, JWT 기반 인증, 위협 모델 문서화 기능이 포함되어 있습니다.

일반적인 사용 사례

대규모 자율 에이전트 펌 – 에이전트당 하나의 파드를 사용하지 않고 수천 개의 채팅 또는 도구 호출 에이전트를 배포할 수 있습니다.
상태를 유지하는 도구 서비스 – Claude Code, Antigravity 등과 같이 호출 간에 파일 시스템을 유지해야 하는 사전 실행 환경을 실행할 수 있습니다.
RL 기반 에이전트 루프 연구 – 단일 Kubernetes 클러스터에서 추론, 도구 사용, 학습 사이클을 결합하여, 부하 변화에 따라 스케줄러가 액터를 워커 간에 이동시킬 수 있습니다.
보안적인 다중 테넌트 실행 – gVisor 또는 마이크로VM 격리를 사용하여 각 에이전트의 코드와 데이터를 보호할 수 있습니다.

프로젝트 상태

초기 개발 단계 – API는 여전히 진화 중이며, 프로덕션 사용에는 적합하지 않습니다.
지원되는 Kubernetes 버전 – 최신 안정 버전과 이전 마이너 버전.
로드맵 – docs/roadmap.md에 상세히 기술되어 있으며, 안정성 향상, 풍부한 오토스케일링, 더 넓은 사전 실행 환경 지원이 포함됩니다.

빠른 시작 (개발용 요약)

# 전제 조건: go, kubectl, docker (kind는 자동 설치됨)
hack/create-kind-cluster.sh                     # 로컬 kind 클러스터 생성
hack/install-ate-kind.sh --deploy-ate-system    # Substrate 제어 평면 설치
hack/install-ate-kind.sh --deploy-demo-counter   # 샘플 카운터 액터 배포
go install ./cmd/kubectl-ate                    # CLI 설치
kubectl ate create actor my-counter-1 -a ate-demo-counter --template counter
kubectl port-forward -n ate-system svc/atenet-router 8000:80
curl -X POST -H "ate-target-actor: ate-demo-counter/my-counter-1" http://localhost:8000/

동일한 흐름은 README에 설명된 setup-gcp 도구를 사용해 GKE에서도 작동합니다.

생태계 및 통합

Agent Executor (google/ax) – Substrate 위에 구축된 분산 에이전트 런타임입니다.
kagent – CNCF 사내 프로젝트로, Substrate를 사용해 상태를 유지하는 AI 에이전트를 실행합니다.
데모 컬렉션 – 카운터, 사전 실행 환경, Claude Code 다중화, 요청 주차, 오토스케일링 워커풀 등.

커뮤니티 및 기여

Google 그룹: ate-dev (공지 및 토론용)
주간 동기화: 매주 목요일 오전 10시 – 오전 11시 PST (영상 회의 및 전화 연결)
Slack: CNCF 채널 #substrate-users 및 #substrate-dev
기여 방법 – CONTRIBUTING.md 참조; 프로젝트가 매우 초기 단계이므로, 기여는 핵심 시스템 및 데모 작업과 일치해야 합니다.

더 알아보기

아키텍처 문서 – docs/architecture.md
API 가이드 – docs/api-guide.md
CLI 문서 – cmd/kubectl-ate/README.md
YouTube 채널 – https://www.youtube.com/channel/UCN9PPqlTtVxlcpbQ-NWpfZQ (데모 영상)

결론 – Agent Substrate는 작은 클러스터에서 많은 격리된 상태를 유지하는 AI 에이전트(또는 유사한 작업)를 빠르고 안전하게 실행할 수 있도록 하는 목적 지향적인 Kubernetes 기반 런타임입니다. 일시 중지/복원이 빠르고 강력한 보안 보장을 제공합니다. 아직 실험 단계이지만, 대규모이고 비용 효율적인 에이전트 인프라를 구축하기 위한 구체적인 기반을 제공합니다.