tensorlakeai/tensorlake

Tensorlake – AI 에이전트를 위한 샌드박스 네이티브 클라우드

개요 – Tensorlake는 격리된 마이크로 VM 샌드박스(sandboxes)를 대규모로 실행할 수 있는 호스팅 컴퓨팅 플랫폼입니다. LLM이 생성한 코드, 도구 또는 장시간 실행되는 함수를 실행하기 위해 안전하고 재현 가능한 환경이 필요한 에이전트형 AI 애플리케이션 개발자를 대상으로 합니다.

주요 기능

• Sandbox API – SSD에 가까운 I/O, 1초 미만의 시작, 스냅샷/복제, 자동 일시 중지, 라이브 마이그레이션 기능을 갖춘 상태 유지 MicroVM을 생성하며, 프로젝트당 최대 500만 개의 샌드박스를 실행할 수 있습니다.
• Python SDK (tensorlake) 및 독립형 CLI (tl) – 샌드박스 생성, 연결, 파일 복사, 명령 실행 및 종료에 사용됩니다. SDK는 즉시 복원을 위한 풀(미리 준비된 컨테이너)과 스냅샷도 지원합니다.
• Cloud Volumes – Python, TypeScript 또는 Rust SDK를 통해 읽고 쓸 수 있는 버전 관리 객체 스토리지 기반 파일 시스템입니다. 파일은 서명된 URL로 직접 업로드되므로 페이로드가 메인 API를 우회합니다.
• 오케스트레이션 계층 – 팬아웃 기능을 갖춘 서버리스 함수 런타임입니다. 함수는 @function 데코레이터로 정의되고, 이미지로 패키징되며, tl deploy로 배포됩니다. 각 함수는 자체 샌드박스에서 실행되며 HTTP 또는 SDK를 통해 호출할 수 있습니다.

일반적인 워크플로우

1. cloud.tensorlake.ai에서 가입하고 API 키를 받습니다.
2. SDK(pip install tensorlake) 또는 CLI(curl … | sh)를 설치합니다.
3. 샌드박스를 생성합니다 (CLI: tl sbx create 또는 SDK: SandboxClient.create_and_connect).
4. 샌드박스 내에서 명령 실행 / 파일 복사를 수행하고, 필요에 따라 스냅샷을 생성합니다.
5. 애플리케이션을 배포합니다 – @function으로 데코레이션된 Python 함수를 작성하고, Image로 종속성을 번들링한 후 tl deploy <path>를 실행합니다.
6. tl 또는 HTTP 요청을 통해 배포된 앱을 호출합니다. 결과는 SSE를 통해 스트리밍할 수 있습니다.

중요성 – 에이전트형 AI 시스템은 종종 임의의 코드를 안전하게 실행해야 합니다. Tensorlake는 각 에이전트를 격리하고, 네트워크 정책을 적용하며, 재현성을 위해 상태를 스냅샷할 수 있는 관리형의 확장성이 뛰어난 샌드박스를 제공합니다. 내장된 오케스트레이션을 통해 Kubernetes나 VM 클러스터를 직접 관리할 필요 없이 서버리스 스타일의 API 인터페이스를 사용할 수 있습니다.

추가 정보 – 문서는 https://docs.tensorlake.ai, Slack 커뮤니티, 그리고 공개 PyPI 패키지 tensorlake를 참조하세요.