cncf/k8s-ai-conformance

해결하는 문제

이 프로젝트는 Kubernetes에서 AI/ML 워크로드를 실행하기 위한 표준화된 접근 방식을 마련합니다. AI 애플리케이션이 한 클러스터에서는 작동하지만 다른 클러스터에서는 실패하는 플랫폼 고유의 불일치 문제를 해결하기 위해, Kubernetes 플랫폼이 "AI 호환"으로 인증되기 위해 충족해야 하는 기본 기능을 정의합니다.

작동 방식

이 프로그램은 Kubernetes 플랫폼 벤더를 대상으로 한 인증 절차로 운영됩니다. 벤더는 먼저 Kubernetes 호환성을 확보한 후, 자가 평가 체크리스트와 공개된 증거(문서 및 테스트 결과)를 제출하여 요구되는 AI/ML 기능을 지원함을 입증해야 합니다. v1.37부터는 Gang 스케줄링 및 보안 가속기 접근과 같은 기능에 대해 자동화된 테스트 결과와 수동 확인을 결합한 하이브리드 검증 방식을 지원합니다.

대상 사용자

• Kubernetes 플랫폼 벤더: AI 워크로드에 대한 신뢰성을 입증하기 위해 인증을 받고자 하는 기업.
• AI 도구 개발자: 명확하고 벤더 중립적인 기준을 바탕으로 도구를 개발하고 테스트할 수 있는 개발자.
• 엔드 유저: AI 워크로드가 다양한 Kubernetes 플랫폼 간에 이식 가능하도록 보장하고자 하는 사용자.

주요 특징

• 광범위한 워크로드 지원: 분산/대규모 작업을 위한 학습, 모델/LLM 서빙을 위한 추론, 다단계 워크플로우를 위한 에이전트 워크로드를 모두 포함.
• 인증 라이프사이클: 인증은 1년간 유효하며 Kubernetes 릴리스 주기와 동기화됩니다.
• 하이브리드 검증: 자동화된 테스트와 수동 문서 검토를 결합합니다.
• 벤더 중립 기준: 커뮤니티 주도의 노력으로 생태계 전반에서 AI 이식 가능성을 보장합니다.