e2b-dev/runtime

해결하는 문제

E2B Runtime은 AI 에이전트가 신뢰할 수 없는 코드를 실행할 수 있는 안전하고 격리된 환경을 제공합니다. 스냅샷 기반 복원을 통해 기존 가상 머신의 느린 부팅 시간을 제거하여 에이전트가 전용 Linux 머신을 갖고 거의 즉시 일시 중지, 재개, 포크할 수 있게 합니다.

작동 방식

시스템은 객체 스토리지에 저장된 사전 부팅 템플릿에서 부팅되는 Firecracker 마이크로VM을 사용합니다. 커널을 처음부터 부팅하는 대신 VM 스냅샷을 복원합니다. 메모리 페이지는 userfaultfd 를 통해 지연 로드되고 루트 파일 시스템은 copy-on-write 오버레이를 사용하여 필요한 데이터만 가져옵니다.

아키텍처적으로 제어 플레인(API)과 데이터 플레인(오케스트레이터 및 엣지 라우터)을 분리하여 샌드박스 트래픽이 API를 우회하여 지연 시간을 낮춥니다. 각 VM 내부에는 envd 라는 전용 에이전트가 프로세스, 파일 시스템, 포트 전달을 관리하기 위한 REST 및 Connect RPC API를 제공합니다.

대상 사용자

• 에이전트 개발자: 실행 환경을 정밀하게 제어해야 하며 동일한 런타임을 로컬 및 프로덕션에서 실행할 수 있어야 하는 개발자.
• 플랫폼 팀: 자체 클라우드 계정 내에서 에이전트를 실행하여 "블랙박스" 인프라를 피해야 하는 팀.
• 인프라 엔지니어: 고성능 VM 스냅샷, 지연 메모리 복원, Firecracker 오케스트레이션에 관심이 있는 엔지니어.

주요 기능

• 하드웨어 격리 샌드박스: 각 세션은 자체 네트워크 네임스페이스와 이그레스 방화벽을 갖춘 Firecracker 마이크로VM을 받습니다.
• 즉시 일시 중지 및 재개: 샌드박스는 일시 중지(템플릿과 비교하여 저장)되고 트래픽이 도착하면 투명하게 재개될 수 있습니다.
• 샌드박스 포크: 라이브 샌드박스를 체크포인트하고 해당 상태에서 최대 100개의 새 인스턴스를 시작할 수 있습니다.
• 사용자 정의 템플릿: Docker 이미지와 빌드 단계에서 캐시된 레이어로 환경을 구축합니다.
• 통합 관찰 가능성: 수명 주기 이벤트 및 호스트 메트릭을 ClickHouse로 완전한 OpenTelemetry 내보내기.