skypilot-org/skypilot

해결하는 문제

SkyPilot은 다양한 인프라에서 AI 워크로드를 관리하는 복잡성을 해결합니다. 통합 인터페이스를 제공함으로써 어떤 클라우드 제공업체, Kubernetes 또는 Slurm 클러스터에서도 작업을 실행하고, 벤더 종속성을 없애면서 비용과 리소스 가용성을 최적화합니다.

작동 방식

사용자는 통합된 YAML 또는 Python API를 사용해 AI 작업을 정의하고, GPU/TPU와 같은 리소스 요구사항, 데이터 동기화, 설정/실행 명령을 지정합니다. SkyPilot은 가장 저렴하고 사용 가능한 인프라를 자동으로 프로비저닝하고, 용량이 부족할 경우 자동 페일오버를 수행하며, 코드베이스를 동기화하고, 종속성을 설치한 뒤 작업을 실행합니다.

대상 사용자

간단하고 이식 가능한 방법으로 작업을 시작·관리하려는 AI 팀과, 고급 스케줄링·스케일링·GPU 플릿 활용을 위한 통합 제어 평면이 필요한 인프라 팀을 위해 설계되었습니다.

주요 특징

• 멀티클라우드·멀티클러스터: 20개 이상의 클라우드(AWS, GCP, Azure 등)와 Kubernetes/Slurm 클러스터를 하나의 인터페이스로 지원합니다.
• GPU 최적화: 유휴 리소스 자동 중지, 공유 클러스터를 위한 빈패킹, 최대 활용을 위한 인텔리전트 스케줄러를 제공합니다.
• Kubernetes 강화: AI 네이티브 기능(갱 스케줄링, 멀티노드 작업, SSH/IDE 연결을 통한 인터랙티브 개발)을 Kubernetes에 추가합니다.
• 에이전트 통합: AI 에이전트가 GPU 접근 및 작업을 관리할 수 있는 "SkyPilot Skill"을 제공합니다.
• BYOC 모델: Bring Your Own Cloud(BYOC) 방식을 적용해 사용자의 계정 및 VPC 내에서 모든 리소스를 실행합니다.