kvcache-ai/AgentENV

해결하는 문제

AgentENV는 AI 에이전트가 코드를 실행하거나 소프트웨어와 상호작용하는 데 필요한 격리된 환경(샌드박스)을 실행하기 위한 확장 가능한 플랫폼을 제공합니다. 특히 클러스터 전체에서 수백만 개의 다양한 환경을 실행할 때 로컬 디스크 공간을 소진하거나 유휴 샌드박스에 CPU 및 메모리를 낭비하지 않고 실행하는 문제를 해결합니다.

작동 방식

AgentENV는 Firecracker microVM을 사용하여 가볍고 격리된 샌드박스를 생성합니다. 높은 밀도와 속도를 유지하기 위해 다음과 같은 몇 가지 기술적 최적화를 적용합니다:

• 이미지 관리: overlaybd를 사용하여 OCI 호환 이미지를 온디맨드로 로드하여, 전체 이미지 수가 로컬 디스크 용량을 초과할 수 있도록 합니다.
• 빠른 라이프사이클: 리소스 낭비를 최소화하기 위해 스냅샷 기반의 부팅 및 재개(50ms 미만)와 일시 중지(100ms 미만)를 구현합니다.
• 상태 관리: 증분 메모리 및 파일 시스템 스냅샷과 실행 중인 환경을 여러 개의 독립적인 샌드박스로 "fork"할 수 있는 기능을 지원합니다.
• 리소스 효율성: 고성능 I/O를 위한 ublk와 게스트 메모리를 회수하기 위한 메모리 벌루닝(memory ballooning)을 사용하여 높은 메모리 오버커밋 비율을 가능하게 합니다.

대상 사용자

Kimi K3와 같은 에이전트형 RL(강화 학습) 모델을 훈련하는 개발자와 연구자, 그리고 대규모의 E2B 호환 에이전트 샌드박스를 배포해야 하는 사용자들을 위해 설계되었습니다.

주요 특징

• 대규모 확장성: 프로덕션 환경에서 최대 150만 개의 이미지를 확장할 수 있습니다.
• 신속한 복구: 50ms 미만으로 환경을 부팅하거나 재개합니다.
• 포킹(Forking) 지원: 실행 중인 환경을 여러 개의 병렬 워크플로우로 클론할 수 있습니다.
• E2B 호환성: E2B SDK와 호환되는 HTTP API를 노출하여 기존 에이전트 도구와의 쉬운 통합을 가능하게 합니다.