tensorlakeai/tensorlake
Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications
해결하는 문제
AI 에이전트를 구축할 때, LLM이 생성한 신뢰할 수 없는 코드나 도구를 호스트 인프라에 위험을 주지 않고 실행할 수 있는 안전한 방법이 필요합니다. Tensorlake는 이러한 격리된 실행 환경과 복잡한 에이전트 워크플로우의 오케스트레이션을 처리하도록 특별히 설계된 안전하고 확장 가능한 컴퓨팅 플랫폼을 제공합니다.
작동 방식
플랫폼은 Firecracker MicroVM을 사용하여 격리된 상태 저장 샌드박스를 생성합니다. 이러한 샌드박스는 1초 미만에 시작될 수 있으며, 고성능 파일 시스템 I/O를 제공하고 스냅샷, 클론, 라이브 마이그레이션과 같은 고급 기능을 지원합니다. 복잡한 워크플로우를 위해 서버리스 오케스트레이션 런타임을 제공하여 개발자가 애플리케이션 및 함수를 정의하고 팬아웃 기능을 갖춘 자동 확장이 가능하도록 합니다.
대상
- AI 에이전트 개발자 안전하고 격리된 환경에서 에이전트 도구나 코드 인터프리터를 실행해야 하는 경우.
- 소프트웨어 엔지니어 분산 오케스트레이션과 고성능 실행이 필요한 확장 가능한 에이전트 애플리케이션을 구축하는 경우.
- 개발자 VM 스냅샷을 사용하여 장시간 실행되는 에이전트 프로세스의 체크포인트와 재개가 필요한 경우.
주요 특징
- 고성능 샌드박스 Firecracker MicroVM을 사용하여 SSD에 근접한 파일 시스템 속도를 제공합니다.
- 상태 저장 실행 스냅샷, 클론 및 자동 일시 중지/재개 기능을 갖추고 있습니다.
- 서버리스 오케스트레이션 복잡한 에이전트 워크플로우를 위한 자동 확장 및 팬아웃이 가능합니다.
- 대규모 확장성 프로젝트당 최대 500만 개의 샌드박스를 지원합니다.