mlcommons/ck

Collective Knowledge (CK), Collective Mind (CM/CMX) and MLPerf automations: community-driven projects to learn how to run AI, ML, and other emerging workloads more efficiently and cost-effectively across diverse models, datasets, software, and hardware using MLPerf methodology and benchmarks.

해결하는 문제

Collective Knowledge (CK)는 AI 및 ML 연구를 더욱 재현 가능하고 효율적으로 만드는 방법을 제공합니다. 이는 다양한 하드웨어, 소프트웨어 및 데이터 세트에서 복잡한 ML 워크로드를 실행할 때 발생하는 어려움, 즉 실험 설정을 재사용하거나 재현하기 어렵게 만드는 문제를 해결합니다.

작동 방식

이 프로젝트는 소프트웨어 프로젝트를 관련 메타데이터가 포함된 이식 가능한 아티팩트(코드, 데이터 및 모델 등)의 파일 기반 저장소로 변환하는 여러 구성 요소로 구성됩니다. 이러한 아티팩트는 기술에 구애받지 않는 자동화 워크플로우로 체인화됩니다.

주요 구성 요소는 다음과 같습니다:

Collective Mind (CM/CMX): 이러한 아티팩트와 워크플로우를 관리하기 위한 통합 명령줄 인터페이스 및 Python API를 제공하는 자동화 프레임워크.
MLOps and MLPerf automations: ML 애플리케이션을 구성, 실행 및 최적화하는 데 사용되는 이식 가능한 자동화 레시피 모음으로, 특히 MLPerf 벤치마크의 모듈화 및 자동화를 지원합니다.
Collective Knowledge Playground: 자동화를 인덱싱하고 MLPerf 벤치마킹 결과를 비교하며 최적화 챌린지를 조직하는 플랫폼.

대상 사용자

다양한 플랫폼에서 AI/ML 워크로드를 효율적으로 실행하고 오픈 사이언스 및 재현 가능한 연구를 지원해야 하는 연구자, 개발자 및 커뮤니티 구성원.

주요 특징

기술 중립성: 다양한 모델, 데이터 세트, 소프트웨어 및 하드웨어에서 작동합니다.
C-Make 스타일 자동화: Python 자동화 및 JSON/YAML 메타데이터를 사용하여 cmake 개념을 확장합니다.
FAIR 원칙: FAIR (Findable, Accessible, Interoperable, and Reusable) 데이터 원칙을 지원하도록 설계되었습니다.
폭넓은 OS 지원: Ubuntu, MacOS, Windows, RHEL, Debian 및 Amazon Linux에서 네이티브로 실행됩니다.