cncf/k8s-ai-conformance

Kubernetes AI Conformance

解決する課題

AIおよび機械学習ワークロードを実行する際のKubernetesプラットフォーム間の標準化の欠如に対処します。AIワークロードはアクセラレータ、ネットワーク、スケジューリングに対して独自の要件を持つため、「自分のクラスターでは動く」という問題に悩まされることがよくあります。本プロジェクトは、AIアプリケーションが準拠した異なるプラットフォーム間で移植可能であることを保証するための認定プログラムを提供します。

仕組み

このプログラムは、KubernetesプラットフォームがAI準拠（AI-conformant）と見なされるために備えるべき一連の機能を定義しています。ベンダーは以下の認定プロセスを経る必要があります：

  1. 前提条件：プラットフォームはまず、base Kubernetes Conformantである必要があります。
  2. 検証：ベンダーは適合性チェックリストを完了し、証拠（ドキュメントまたはURLs）を提供します。新しいバージョン（v1.37+）については、自動テストスイートを実行して e2e.log や results.json などの成果物を生成することが推奨されます。
  3. 提出：ベンダーはチェックリストと証拠を含むpull requestをCNCFに提出し、審査を受けます。
  4. 認定：承認されると、プラットフォームは1年間認定されます。

対象者

  • プラットフォームベンダー：Kubernetesベースのプラットフォームを提供し、AI/MLワークロード向けにインフラを認定したい企業。
  • コントリビューター：トレーニング、推論、エージェントワークフローなど、AIワークロードタイプの要件定義を支援したい開発者や研究者。
  • AIアプリケーション開発者：アプリが異なるクラスター間で動作することを保証するために、信頼できる基準に基づいて構築・テストを行いたいユーザー。

ハイライト

  • 幅広いワークロードのカバー：分散トレーニング、LLM推論、マルチステップのエージェントワークフローに焦点を当てています。
  • ハイブリッド検証：手動による証明と自動テスト結果を組み合わせ、より迅速かつ客観的な検証を実現します。
  • ベンダー中立な基準：プラットフォーム固有のロックインを防ぐため、コミュニティ主導の取り組みとして確立されています。

関連

  • プロジェクト
    kubeflow/kubeflow

    Kubeflowは、Kubernetesネイティブなオープンソースプラットフォームであり、トレーニング、パイプライン、ノートブック、サービングなどのモジュール型AI/MLツールを、モデルライフサイクル全体にわたってポータブルかつスケーラブルなスタックとしてバンドルしています。

  • プロジェクト
    verifywise-ai/verifywise

    VerifyWiseは、企業がモデルをインベントリ化し、LLMを評価し、リスクを標準（EU AI法、ISO 42001、NIST AI RMFなど）にマッピングし、監査準備レポートを生成できるオープンソースのAIガバナンスプラットフォームです。Reactフロントエンド、Node.jsバックエンド、PostgreSQL/Redisストレージ、LLMテスト用のPython EvalServerを備えています。オンプレミスまたはプライベートクラウドにDocker/Kubernetesでデプロイ可能で、AI検出、ポリシー管理、Slack/Jira統合、AIアドバイザーチャットが含まれています。

  • プロジェクト
    FullAgent/fulling

    Fulling は、ランタイム、メモリ、スキルを安全な Kubernetes ベースの認証境界内に統合した、専用 AI ワークスペース構築のための基盤です。

  • プロジェクト
    kubeflow/community-distribution

    Kubeflow Community Distribution は、Kind、EKS、GKE などのクラスタに完全な Kubeflow ML プラットフォーム（Pipelines、Notebooks、Katib、KServe、Istio など）をインストールするための、キュレーションされた Kubernetes マニフェスト（Kustomize 経由）を提供します。単一コマンドまたはコンポーネント単位のデプロイをサポートし、年 2 回の安定版リリースを提供し、CI テスト済みのインストールスクリプトを含みます。

  • プロジェクト
    vfarcic/dot-ai

    npmで公開されているNode.jsライブラリで、Kubernetes/DevOpsワークフローにLLM駆動のアシスタントを追加します。CLIと管理プラットフォーム (MCP) を提供し、自然言語によるクラスタークエリ、デプロイ推奨事項、自動修復、ポリシー駆動のプロンプト・ライブラリ、およびセマンティック・ドキュメント検索を、Kubernetesクラスターに簡単にインストール可能なパッケージとして提供します。