cncf/k8s-ai-conformance

解決する課題

このプロジェクトは、Kubernetes上でAI/MLワークロードを実行するための標準化されたアプローチを確立します。AIアプリケーションが1つのクラスタでは動作するが、別のクラスタでは失敗するといった、プラットフォーム固有の不一致の問題に対処するため、Kubernetesプラットフォームが「AI準拠」として認証されるために満たすべき基本的な能力を定義しています。

動作方法

このプログラムはKubernetesプラットフォームベンダー向けの認証プロセスとして機能します。ベンダーはまずKubernetes準拠である必要があり、その後、自己評価チェックリストと公開された証拠（ドキュメントおよびテスト結果）を提出して、必要なAI/ML機能をサポートしていることを証明します。v1.37以降、GangスケジューリングやSecure Accelerator Accessなどの機能について、自動テスト結果と手動の証明を組み合わせたハイブリッド検証アプローチをサポートしています。

対象者

• Kubernetesプラットフォームベンダー：AIワークロードに耐えうる信頼性を証明するために認証を求める企業。
• AIツール開発者：明確でベンダー中立的な基準に基づいてツールを開発・テストできるようにする開発者。
• エンドユーザー：AIワークロードが異なるKubernetesプラットフォーム間でポータブルであることを保証したいユーザー。

主な特徴

• 広範なワークロード対応：分散・大規模ジョブのトレーニング、モデル/LLMサービングのインフェンス、マルチステップワークフローのエージェントワークロードをカバー。
• 認証ライフサイクル：認証は1年間有効で、Kubernetesのリリースサイクルと同期しています。
• ハイブリッド検証：自動テストと手動のドキュメントレビューを組み合わせます。
• ベンダー中立の基準：コミュニティ主導の取り組みにより、エコシステム全体でのAIポータビリティを確保します。