NVIDIA/deepops

해결하는 문제

DeepOps는 GPU 서버 클러스터를 배포하고 관리하는 복잡한 과정을 단순화합니다. AI 및 고성능 컴퓨팅 워크로드에 적합하게 NVIDIA DGX 시스템과 같은 하드웨어가 올바르게 구성될 수 있도록, 드라이버, 컨테이너 런타임, 클러스터 관리자 등 필요한 소프트웨어 스택의 설치를 자동화합니다.

작동 방식

DeepOps는 Ansible 플레이북을 사용하여 인프라 배포를 오케스트레이션합니다. 사용자의 필요에 따라 다음을 수행할 수 있습니다:

• Kubespray를 통해 컨테이너 기반 애플리케이션 관리를 위한 완전한 Kubernetes 클러스터를 배포.
• 리소스 관리 및 배치 작업 스케줄링을 위한 Slurm 클러스터를 설정.
• 단일 머신에 필수 GPU 구성 요소(NVIDIA 드라이버, Docker, NVIDIA 컨테이너 런타임)를 설치.
• 지원되는 운영 체제에서 NVIDIA DGX 플랫폼 소프트웨어 스택을 배포.

대상 사용자

특히 NVIDIA DGX 시스템 또는 Ubuntu 또는 RHEL/Rocky Linux를 실행하는 일반 GPU 서버를 사용하는, 사내 또는 데이터센터에서 GPU 지원 클러스터를 구축해야 하는 시스템 관리자 및 인프라 엔지니어를 위한 것입니다.

주요 특징

• 다중 스케줄러 지원: Kubernetes 및 Slurm에 대한 자동화 경로 제공.
• 엔드투엔드 자동화: OS 수준 드라이버부터 고수준 클러스터 오케스트레이션까지 전반적인 자동화를 제공.
• 모듈식 설계: 전체 클러스터 설정뿐만 아니라 KubeFlow 또는 NFS 스토리지와 같은 특정 구성 요소만 설정할 수도 있음.
• DGX 최적화: NVIDIA DGX 시스템에 특화된 최적의 실천 방법을 통합.