kvcache-ai/AgentENV

What it solves

AgentENVは、AIエージェントがコードを実行したりソフトウェアと対話したりするために必要な、隔離された環境（サンドボックス）を実行するためのスケーラブルなプラットフォームを提供します。具体的には、ローカルのディスク容量を使い果たしたり、アイドル状態のサンドボックスでCPUやメモリを浪費したりすることなく、クラスター全体で数百万の多様な環境を実行するという課題に対処します。

How it works

AgentENVは、Firecracker microVMsを使用して、軽量で隔離されたサンドボックスを作成します。高密度かつ高速な動作を維持するために、いくつかの技術的な最適化を採用しています：

• Image Management: overlaybdを使用してOCI互換のイメージをオンデマンドでロードすることで、イメージの総数がローカルディスク容量を超えることを可能にします。
• Fast Lifecycle: スナップショットによるブートとレジューム（50ms未満）および一時停止（100ms未満）を実装し、リソースの浪費を最小限に抑えます。
• State Management: インクリメンタルなメモリおよびファイルシステムのスナップショットと、実行中の環境を複数の独立したサンドボックスに「fork」する機能をサポートします。
• Resource Efficiency: 高パフォーマンスなI/Oのためのublkと、ゲストメモリを回収するためのメモリバルーニングを使用し、高いメモリオーバーコミット率を実現します。

Who it’s for

これは、Kimi K3のようなエージェンティックRL（強化学習）モデルをトレーニングする開発者や研究者、および大規模でE2B互換のAgentサンドボックスをデプロイする必要がある人々を対象としています。

Highlights

• Massive Scale: 本番環境で150万個のイメージにスケール可能です。
• Rapid Recovery: 環境を50ms未満でブートまたはレジュームします。
• Forking Support: 実行中の環境を複数の並列ワークフローにクローンすることを可能にします。
• E2B Compatibility: E2B SDKsと互換性のあるHTTP APIを公開し、既存のエージェントツールとの容易な統合を可能にします。