openkruise/agents

解決する課題

OpenKruise Agents は、Kubernetes 内で AI エージェントを実行する際のインフラストラクチャの課題を簡素化します。AI エージェントが必要とする分離された環境、永続的なワークスペース、リソース集約型のトレーニングジョブを管理するための、標準化されたベンダーニュートラルな方法を提供し、AI 開発とクラウドネイティブインフラストラクチャの間のギャップを埋めます。

仕組み

これは、Kubernetes 上の AI エージェントサンドボックス向けの管理レイヤーとして機能します。迅速なリソースプロビジョニングと動的なサイズ変更を可能にし、コストを低く抑えます。システムは、サンドボックスのハイバネーションやチェックポイント（メモリ、ストレージ、さらには GPU メモリの状態を保存可能）などの高度な機能をサポートし、ユーザーセッション管理とトラフィックルーティングを処理して、標準的な Kubernetes サービスへの依存を減らします。開発者は、Kubernetes CRD API または E2B SDK を使用してこれらの環境と対話できます。

対象読者

このプロジェクトは、AI ワークロードを管理するインフラストラクチャエンジニアと、エージェンティックツール、研究ノートブック、またはトレーニングジョブを実行するための信頼性が高く、スケーラブルで分離された環境を必要とする AI アルゴリズム科学者向けに設計されています。

ハイライト

• AI エージェントのツール使用と開発のための分離された安全なサンドボックスを提供します。
• ステートフルハイバネーションをサポートし、サンドボックスがメモリと GPU の状態を保存および復元できます。
• E2B SDK や Kubernetes ネイティブ API との互換性を含む、柔軟な API サポートを提供します。
• 効率的なリソースプーリングと動的スケーリングを可能にし、インフラストラクチャコストを最適化します。
• 強化学習やビッグデータトレーニングなどの複雑なワークロードを、迅速な起動時間でサポートします。