e2b-dev/runtime

The runtime behind every E2B stack: Cloud, Enterprise, and your own machine.

解決する問題

E2B Runtimeは、AIエージェントが信頼できないコードを実行するための安全で分離された環境を提供します。スナップショットベースの復元により、従来の仮想マシンの遅い起動時間を排除し、エージェントが専用のLinuxマシンを持ち、ほぼ即座に一時停止、再開、フォークできるようにします。

仕組み

システムは、オブジェクトストレージに保存された事前起動テンプレートから起動するFirecrackerマイクロVMを使用します。カーネルをゼロから起動する代わりに、VMスナップショットを復元します。メモリページは userfaultfd を介して遅延ロードされ、ルートファイルシステムはコピーオンライトオーバーレイを使用するため、必要なデータのみが取得されます。

アーキテクチャ的には、コントロールプレーン(API)とデータプレーン(オーケストレーターとエッジルーター)を分離し、サンドボックストラフィックがAPIをバイパスして低遅延を実現します。各VM内では、 envd と呼ばれる専用エージェントが、プロセス、ファイルシステム、ポート転送を管理するためのRESTおよびConnect RPC APIを提供します。

対象者

  • エージェント開発者:実行環境を正確に制御し、同じランタイムをローカルと本番の両方で実行する必要がある方。
  • プラットフォームチーム:自社のクラウドアカウント内でエージェントを実行し、「ブラックボックス」インフラを回避する必要がある方。
  • インフラエンジニア:高性能VMスナップショット、遅延メモリ復元、Firecrackerオーケストレーションに興味がある方。

ハイライト

  • ハードウェア分離サンドボックス:各セッションは、独自のネットワーク名前空間とegressファイアウォールを持つFirecrackerマイクロVMを取得します。
  • 即時一時停止と再開:サンドボックスは一時停止(テンプレートと差分を取り、保存)し、トラフィックが到着したときに透過的に再開できます。
  • サンドボックスフォーク:ライブサンドボックスをチェックポイントし、その状態から最大100の新しいインスタンスを起動できます。
  • カスタムテンプレート:Dockerイメージとビルドステップから、キャッシュされたレイヤーで環境を構築します。
  • 統合オブザーバビリティ:ライフサイクルイベントとホストメトリクスをClickHouseに完全なOpenTelemetryエクスポート。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト