dsx-ai-factory/run-ai

解決する課題

NVIDIA Run:ai は、Kubernetes 環境でチームやプロジェクト間で高価な GPU リソースを管理および共有するという課題に対処します。集中型プラットフォームを提供して AI ワークロードをスケジュール、ガバナンス、監視することで、リソースの競合と未使用を防ぎます。

仕組み

Run:ai は Kubernetes の上に位置するオーケストレーションレイヤーとして機能します。管理用の中央コントロールプレーンと、ネイティブの Kubernetes スケジューリングを拡張するクラスター固有のサービスで構成されます。フェアシェアスケジューリング、プリエンプション、部分的な GPU 割り当てなどの高度な技術を使用して、AI トレーニング、推論、開発ワークロードが定義された組織ポリシーに基づいて必要なリソースを確実に受け取れるようにします。

対象ユーザー

このプラットフォームは、複数のチーム、部門、または Kubernetes クラスターにわたって共有 GPU インフラストラクチャを管理し、リソースクォータを適用して GPU 使用率を向上させる必要がある組織およびプラットフォームエンジニア向けに設計されています。

ハイライト

• フェアシェア、プリエンプション、ビンパッキングを含む AI 対応 GPU スケジューリング。
• 動的で部分的な GPU 割り当てにより、ハードウェア効率を最大化。
• GPU ワークロードの集中型マルチクラスタ管理と可観測性。
• ロールベースのアクセス制御とガバナンスにより、組織ポリシーを適用。
• Kubeflow、Ray、KServe などの標準 Kubernetes ワークフローおよびツールとのシームレスな統合。