e2b-dev/runtime

해결하는 문제

E2B Runtime은 AI 에이전트가 신뢰할 수 없는 코드를 실행할 수 있는 보안되고 격리된 환경을 제공합니다. 전통적인 가상머신의 느린 부팅 시간을 제거하기 위해 스냅샷 기반 복원을 사용하여, 에이전트가 자체 전용 Linux 머신을 즉시 일시정지, 재개, 포크할 수 있도록 합니다.

작동 방식

이 시스템은 Firecracker microVM과 커스텀 아키텍처를 활용하여 제어 평면(API)과 데이터 평면(실행)을 분리합니다. 커널을 처음부터 부팅하는 대신, 객체 스토리지에서 사전 부팅된 VM 템플릿을 복원합니다. userfaultfd를 사용해 지연 메모리 로딩을 하고, 파일시스템에는 복사-작성(Copy-on-Write) 오버레이를 사용하여 필요한 데이터만 가져옵니다. 각 VM 내부에는 프로세스, 파일, 포트를 관리하는 REST 및 Connect RPC API를 제공하는 특수 에이전트 envd가 있습니다.

대상 사용자

• AI 에이전트 개발자: 사전 환경에 대한 정밀한 제어와 로컬-생산 환경 일관성이 필요한 팀.
• 플랫폼 팀: 자체 클라우드 인프라 내에서 에이전트를 실행하여 '블랙박스' 솔루션을 피하고자 하는 조직.
• 인프라 엔지니어: 고규모 스냅샷 기반 스케줄링, Firecracker microVM, 지연 메모리 복원에 관심이 있는 사람.

주요 특징

• 하드웨어 격리된 사전 환경: 각 세션은 전용 네트워크 네임스페이스와 출구 방화벽을 갖춘 독립적인 Firecracker microVM에서 실행됩니다.
• 즉시 라이프사이클 관리: 메모리 및 디스크 차이를 기반으로 실행 중인 사전 환경을 즉시 일시정지, 재개, 포크할 수 있습니다.
• 템플릿 시스템: Docker 이미지에서 레이어드 빌드를 수행하며 캐시된 레이어와 부팅 최적화 단계를 활용합니다.
• 통합 API: envd를 통해 SDK가 VM의 파일시스템과 프로세스와 상호작용할 수 있으며, 업그레이드 중에도 워크로드를 중단하지 않습니다.
• 동적 라우팅: 포트를 열어주는 모든 프로세스에 대해 자동으로 사전 환경 URL을 할당하고, 엣지 프록시를 통해 라우팅됩니다.