tensorlakeai/tensorlake
Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications
Tensorlake – 用于 AI 代理的沙盒原生云
它是什么 – Tensorlake 是一个托管计算平台,让您能够大规模运行隔离的微型虚拟机沙盒(称为 sandboxes)。它旨在为开发代理 AI 应用程序的开发人员提供一个安全、可重现的环境,用于运行 LLM 生成的代码、工具或长时间运行的函数。
关键组件
- Sandbox API – 创建具有近乎 SSD I/O 速度、亚秒级启动、快照/克隆、自动暂停、实时迁移功能的有状态 MicroVM,每个项目最多可运行 500 万个沙盒。
- Python SDK (
tensorlake) 和 独立 CLI (tl),用于创建、连接、复制文件、执行命令以及终止沙盒。SDK 还支持池(预热容器)和快照以实现即时恢复。 - Cloud Volumes – 一个版本化的、由对象存储支持的文件系统,可通过 Python、TypeScript 或 Rust SDK 进行读写。文件直接上传到签名 URL,因此负载会绕过主 API。
- 编排层 – 具有扇出功能的无服务器函数执行环境。函数使用
@function修饰器定义,打包成镜像,并使用tl deploy部署。每个函数都在自己的沙盒中运行,并可通过 HTTP 或 SDK 调用。
典型工作流程
- 注册
cloud.tensorlake.ai并获取 API 密钥。 - 安装 SDK (
pip install tensorlake) 或 CLI (curl … | sh)。 - 创建沙盒 (CLI:
tl sbx create或 SDK:SandboxClient.create_and_connect)。 - 运行命令 / 复制文件 到沙盒内,并可选择对其进行快照。
- 部署应用程序 – 编写使用
@function修饰的 Python 函数,使用Image打包依赖项,然后执行tl deploy <path>。 - 调用 部署的应用程序,可通过
tl或 HTTP 请求;结果可通过 SSE 流式传输。
为什么重要 – 代理 AI 系统通常需要安全地执行任意代码。Tensorlake 提供了一个托管的、高度可扩展的沙盒,隔离每个代理,强制执行网络策略,并让您快照状态以实现可重现性。内置的编排功能增加了无服务器风格的 API 接口,无需您管理 Kubernetes 或虚拟机集群。
了解更多 – 文档请见 https://docs.tensorlake.ai,以及 Slack 社区和公开的 PyPI 包 tensorlake。
相关
- 项目
- 项目
- 项目
- 项目
- 项目