skypilot-org/skypilot

The AI Compute Platform for frontier teams. SkyPilot turns fragmented AI compute into one AI supercomputer, so frontier AI teams build custom intelligence faster.

해결하는 문제

SkyPilot은 다양한 인프라에서 AI 워크로드를 실행, 관리 및 확장하는 프로세스를 단순화합니다. 다양한 클라우드 제공업체, Kubernetes 클러스터 및 Slurm 클러스터에 작업을 배포하기 위한 통합 인터페이스를 제공하는 동시에 비용과 리소스 가용성을 최적화하여 벤더 종속성을 제거합니다.

작동 방식

사용자는 통합된 YAML 또는 Python API를 사용하여 리소스 요구 사항(GPU/TPU 등), 데이터 동기화 필요성, 설정/실행 명령을 지정하여 AI 작업을 정의합니다. 그러면 SkyPilot이 가장 저렴한 가용 인프라 찾기, 필요한 컴퓨팅(VM 또는 pod) 프로비저닝, 코드베이스 동기화, 종속성 설치 및 작업 실행과 같은 복잡한 작업을 자동화합니다.

대상 사용자

작업을 시작하기 위한 간단하고 이식 가능한 방법을 필요로 하는 AI 팀과 여러 클라우드 및 클러스터에 걸쳐 AI 컴퓨팅, 스케줄링 및 오케스트레이션을 관리하기 위한 통합 제어 평면이 필요한 인프라 팀을 위해 설계되었습니다.

주요 특징

멀티 클라우드 및 멀티 클러스터 지원: 20개 이상의 클라우드(AWS, GCP, Azure 등), Kubernetes 및 Slurm에서 작동합니다.
GPU 플릿 최적화: 유휴 리소스를 위한 Autostop, 공유 클러스터에서의 binpacking, 가용성을 위한 지능형 스케줄러와 같은 기능이 포함되어 있습니다.
Kubernetes 강화: gang scheduling, 멀티 노드 작업, 단순화된 대화형 개발(SSH/IDE 연결)과 같은 AI 네이티브 기능을 Kubernetes에 추가합니다.
AI 에이전트 통합: AI 에이전트(Claude Code 등)가 GPU 액세스 및 작업을 직접 관리할 수 있도록 하는 "SkyPilot Skill"을 제공합니다.
샌드박스: 기존 Kubernetes 클러스터에서 신뢰할 수 없는 LLM 생성 코드를 실행할 수 있는 기능.