skypilot-org/skypilot

The AI Compute Platform for frontier teams. SkyPilot turns fragmented AI compute into one AI supercomputer, so frontier AI teams build custom intelligence faster.

解決的問題

SkyPilot 簡化了在不同基礎設施上執行、管理和擴展 AI 工作負載的過程。它透過為在各種雲端供應商、Kubernetes 叢集和 Slurm 叢集上部署作業提供統一的介面，同時優化成本和資源可用性，從而消除供應商鎖定。

工作原理

使用者使用統一的 YAML 或 Python API 定義其 AI 任務，指定資源需求（如 GPU/TPU）、數據同步需求以及設定/執行指令。SkyPilot 隨後會自動完成繁重的工作：尋找最便宜的可用基礎設施、配置必要的運算資源（VM 或 pod）、同步程式碼庫、安裝依賴項並執行作業。

適用對象

專為需要簡單、可移植的作業啟動方式的 AI 團隊，以及需要統一控制平面來管理跨多個雲端和叢集的 AI 運算、排程和編排的架構團隊而設計。

亮點

  • 多雲與多叢集支援：支援 20 多種雲端（AWS、GCP、Azure 等）、Kubernetes 和 Slurm。
  • GPU 集群優化：包括針對閒置資源的 Autostop、共享叢集上的 binpacking 以及用於可用性的智慧排程器等功能。
  • Kubernetes 增強：為 Kubernetes 增加 AI 原生功能，如 gang scheduling、多節點作業和簡化的互動式開發（SSH/IDE 連線）。
  • AI Agent 整合：提供「SkyPilot Skill」，允許 AI Agent（如 Claude Code）直接管理 GPU 存取和作業。
  • 沙箱：能夠在現有的 Kubernetes 叢集上執行不可信的 LLM 生成程式碼。