skypilot-org/skypilot

它解決了什麼

SkyPilot 解決了在多樣化基礎設施上管理 AI 工作負載的複雜性。它透過提供統一介面，在任何雲端供應商、Kubernetes 或 Slurm 叢集上執行工作，消除供應商鎖定，同時優化成本與資源可用性。

它如何運作

使用者使用統一的 YAML 或 Python API 定義 AI 任務，指定資源需求（如 GPU/TPU）、資料同步以及設定/執行指令。SkyPilot 隨後負責佈署最便宜的可用基礎設施、在容量不足時自動故障轉移、同步程式碼庫、安裝相依套件，並執行工作。

目標對象

此系統設計給需要簡單、可移植方式來啟動與管理工作負載的 AI 團隊，以及需要統一控制平面以進行進階排程、擴展與 GPU 資源利用的基礎設施團隊。

重點特色

• 多雲與多叢集：在單一介面下支援超過 20 種雲端（包括 AWS、GCP、Azure）以及 Kubernetes/Slurm 叢集。
• GPU 最佳化：具備閒置資源自動停止、共享叢集的二元打包，以及智慧排程器以達到最大利用率。
• Kubernetes 增強：為 Kubernetes 添加 AI 原生功能，如群組排程、多節點工作，以及簡化的互動式開發（SSH/IDE 連線）。
• 代理整合：提供「SkyPilot Skill」讓 AI 代理管理 GPU 存取與工作。
• 自帶雲模型（BYOC）：在使用者自己的帳號與 VPC 內部啟動所有資源。