tensorlakeai/tensorlake

Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications

Tensorlake – 用于 AI 代理的沙盒原生云

它是什么 – Tensorlake 是一个托管计算平台,让您能够大规模运行隔离的微型虚拟机沙盒(称为 sandboxes)。它旨在为开发代理 AI 应用程序的开发人员提供一个安全、可重现的环境,用于运行 LLM 生成的代码、工具或长时间运行的函数。

关键组件

  • Sandbox API – 创建具有近乎 SSD I/O 速度、亚秒级启动、快照/克隆、自动暂停、实时迁移功能的有状态 MicroVM,每个项目最多可运行 500 万个沙盒。
  • Python SDK (tensorlake) 和 独立 CLI (tl),用于创建、连接、复制文件、执行命令以及终止沙盒。SDK 还支持池(预热容器)和快照以实现即时恢复。
  • Cloud Volumes – 一个版本化的、由对象存储支持的文件系统,可通过 Python、TypeScript 或 Rust SDK 进行读写。文件直接上传到签名 URL,因此负载会绕过主 API。
  • 编排层 – 具有扇出功能的无服务器函数执行环境。函数使用 @function 修饰器定义,打包成镜像,并使用 tl deploy 部署。每个函数都在自己的沙盒中运行,并可通过 HTTP 或 SDK 调用。

典型工作流程

  1. 注册 cloud.tensorlake.ai 并获取 API 密钥。
  2. 安装 SDK (pip install tensorlake) 或 CLI (curl … | sh)。
  3. 创建沙盒 (CLI: tl sbx create 或 SDK: SandboxClient.create_and_connect)。
  4. 运行命令 / 复制文件 到沙盒内,并可选择对其进行快照。
  5. 部署应用程序 – 编写使用 @function 修饰的 Python 函数,使用 Image 打包依赖项,然后执行 tl deploy <path>。
  6. 调用 部署的应用程序,可通过 tl 或 HTTP 请求;结果可通过 SSE 流式传输。

为什么重要 – 代理 AI 系统通常需要安全地执行任意代码。Tensorlake 提供了一个托管的、高度可扩展的沙盒,隔离每个代理,强制执行网络策略,并让您快照状态以实现可重现性。内置的编排功能增加了无服务器风格的 API 接口,无需您管理 Kubernetes 或虚拟机集群。

了解更多 – 文档请见 https://docs.tensorlake.ai,以及 Slack 社区和公开的 PyPI 包 tensorlake。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目