tensorlakeai/tensorlake

Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications

Tensorlake – AIエージェントのためのサンドボックスネイティブクラウド

概要 – Tensorlakeは、隔離されたマイクロVMサンドボックス(sandboxes)を大規模に実行できるホスト型コンピューティングプラットフォームです。LLMが生成したコード、ツール、または長時間実行される関数を実行するための安全で再現可能な環境を必要とする、エージェント型AIアプリケーションを構築する開発者を対象としています。

主な機能

  • Sandbox API – SSDに近いI/O、サブ秒単位の起動、スナップショット/クローン、自動サスペンド、ライブマイグレーションを備えたステートフルなMicroVMを作成し、1プロジェクトあたり最大500万個のサンドボックスを実行可能。
  • Python SDK (tensorlake) および スタンドアロンCLI (tl) – サンドボックスの作成、接続、ファイルコピー、コマンド実行、終了に使用します。SDKは、即時復元のためのプール(ウォームアップ済みコンテナ)とスナップショットもサポートしています。
  • Cloud Volumes – Python、TypeScript、またはRust SDKを介して読み書き可能な、バージョン管理されたオブジェクトストレージベースのファイルシステム。ファイルは署名付きURLに直接アップロードされるため、ペイロードはメインAPIをバイパスします。
  • オーケストレーション層 – ファンアウト機能を備えたサーバーレス関数ランタイム。関数は @function デコレータで定義され、イメージにパッケージ化され、tl deploy でデプロイされます。各関数は独自のサンドボックス内で実行され、HTTPまたはSDK経由で呼び出すことができます。

一般的なワークフロー

  1. cloud.tensorlake.ai にサインアップし、APIキーを取得します。
  2. SDK (pip install tensorlake) または CLI (curl … | sh) をインストールします。
  3. サンドボックスを作成します (CLI: tl sbx create または SDK: SandboxClient.create_and_connect)。
  4. サンドボックス内でコマンドを実行 / ファイルをコピーし、必要に応じてスナップショットを作成します。
  5. アプリケーションをデプロイします – @function でデコレーションされたPython関数を記述し、Image で依存関係をバンドルして、tl deploy <path> を実行します。
  6. tl またはHTTPリクエストを介してデプロイされたアプリを呼び出します。結果はSSEでストリーミング可能です。

重要性 – エージェント型AIシステムは、多くの場合、任意のコードを安全に実行する必要があります。Tensorlakeは、各エージェントを隔離し、ネットワークポリシーを強制し、再現性のために状態をスナップショットできる、管理された高度にスケーラブルなサンドボックスを提供します。組み込みのオーケストレーションにより、KubernetesやVMフリートを管理することなく、サーバーレススタイルのAPIサーフェスを利用できます。

詳細情報 – ドキュメントは https://docs.tensorlake.ai、Slackコミュニティ、および公開されているPyPIパッケージ tensorlake を参照してください。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト