tensorlakeai/tensorlake

Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications

解决的问题

Tensorlake 为 AI 代理提供安全、高性能的计算基础设施。它解决了安全执行不受信任的 LLM 生成代码,并在不牺牲速度或安全性的前提下,大规模管理代理应用程序状态的问题。

工作原理

Tensorlake 使用 Firecracker MicroVM 创建隔离的沙箱,作为代理的执行环境。这些沙箱由名为 Lattice 的动态集群调度器管理,可在不到一秒内启动。平台包含一个服务器无服务函数运行时,用于编排,使开发者能够构建具有扇出能力的复杂代理工作流。它还提供 Cloud Volumes 用于持久化、版本化的文件管理,以及用于快照和克隆沙箱状态(包括内存和文件系统)的系统,以创建代理的持久化内存。

适用人群

专为需要安全环境来运行工具、执行 Python 代码或在会话间保持长期状态的 AI 代理开发者设计。

主要亮点

  • 高性能 I/O:文件系统操作达到接近 SSD 的速度,在 SQLite 基准测试中优于多个竞争对手。
  • 即时扩展:每个项目支持高达 500 万个沙箱,启动时间低于一秒。
  • 状态管理:支持快照、克隆和自动挂起/恢复,以保留代理的内存和文件系统状态。
  • 安全隔离:使用硬件虚拟化的 MicroVM 将不受信任的代码与基础设施的其余部分隔离。
  • 无服务器编排:提供分布式运行时,可将代理应用程序作为可扩展函数部署。

相关

  • 项目
  • 项目
  • 项目
  • Dispatch
  • 项目