cncf/k8s-ai-conformance

해결하는 문제

AI 및 머신러닝 워크로드를 실행할 때 Kubernetes 플랫폼 간의 표준화 부족 문제를 해결합니다. AI 워크로드는 가속기, 네트워킹, 스케줄링에 대한 고유한 요구 사항이 있기 때문에 종종 "내 클러스터에서는 잘 작동하는데"와 같은 문제에 시달립니다. 이 프로젝트는 AI 애플리케이션이 준수하는 서로 다른 플랫폼 간에 이식 가능하도록 보장하는 인증 프로그램을 제공합니다.

작동 방식

이 프로그램은 Kubernetes 플랫폼이 AI 준수(AI-conformant) 상태로 간주되기 위해 갖추어야 할 기능 세트를 정의합니다. 벤더는 다음을 포함한 인증 프로세스를 거칩니다:

1. 전제 조건: 플랫폼은 먼저 base Kubernetes Conformant여야 합니다.
2. 검증: 벤더는 적합성 체크리스트를 완료하고 증거(문서 또는 URLs)를 제공합니다. 최신 버전(v1.37+)의 경우, 자동화된 테스트 스위트를 실행하여 e2e.log 및 results.json과 같은 아티팩트를 생성하는 것이 권장됩니다.
3. 제출: 벤더는 체크리스트와 증거가 포함된 pull request를 CNCF에 제출하여 검토를 받습니다.
4. 인증: 승인되면 해당 플랫폼은 1년간 인증됩니다.

대상 사용자

• 플랫폼 벤더: Kubernetes 기반 플랫폼을 제공하며 AI/ML 워크로드를 위해 인프라를 인증받고자 하는 기업.
• 기여자: 학습, 추론, 에이전트 워크플로우를 포함한 AI 워크로드 유형의 요구 사항 정의를 돕고자 하는 개발자 및 연구원.
• AI 애플리케이션 개발자: 앱이 서로 다른 클러스터에서 작동하도록 보장하기 위해 신뢰할 수 있는 기준을 바탕으로 구축 및 테스트하려는 사용자.

주요 특징

• 광범위한 워크로드 커버리지: 분산 학습, LLM 추론 및 다단계 에이전트 워크플로우에 중점을 둡니다.
• 하이브리드 검증: 수동 증명과 자동화된 테스트 결과를 결합하여 더 빠르고 객관적인 검증을 수행합니다.
• 벤더 중립적 기준: 특정 플랫폼에 종속되는 것을 방지하기 위해 커뮤니티 주도로 설립되었습니다.