tensorlakeai/tensorlake
Tensorlake is a serverless runtime for sandboxes and deploying background agentic applications
何を解決するか
Tensorlakeは、AIエージェント用の安全で高性能なコンピューティングインフラを提供します。信頼できないLLM生成コードを安全に実行し、スケールしたエージェントアプリケーションの状態を、速度やセキュリティを犠牲にすることなく管理する問題を解決します。
動作方法
TensorlakeはFirecracker MicroVMを使用して、エージェントの実行環境として機能する隔離されたサンドボックスを構築します。これらのサンドボックスは、Latticeと呼ばれる動的クラスタースケジューラによって管理され、1秒未満で起動できます。プラットフォームには、ファンアウト機能を備えた複雑なエージェントワークフローを構築できるサーバーレス関数ランタイムが含まれています。また、永続的でバージョン管理されたファイル管理のためのCloud Volumesと、サンドボックスの状態(メモリとファイルシステムを含む)をスナップショット・クローンする仕組みがあり、エージェントの永続的メモリを実現します。
対象ユーザー
ツールの実行、Pythonコードの実行、またはセッション間で長期間の状態を維持する必要があるAIエージェントを開発する開発者向けに設計されています。
主な特徴
- 高性能I/O: ファイルシステム操作でSSDに近い速度を達成し、SQLiteベンチマークで複数の競合他社を上回ります。
- 即時スケーリング: 1プロジェクトあたり最大500万のサンドボックスをサポートし、1秒未満の起動時間です。
- 状態管理: スナップショット、クローン、自動サスペンド/リジュームをサポートし、エージェントのメモリとファイルシステムの状態を保持します。
- セキュアな隔離: ハードウェア仮想化されたMicroVMを使用して、信頼できないコードをインフラの他の部分から隔離します。
- サーバーレスオーケストレーション: 分散ランタイムを提供し、エージェントアプリケーションをスケーラブルな関数としてデプロイできます。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch
- プロジェクト