skypilot-org/skypilot

它解决了什么问题

SkyPilot 解决了在不同云服务商和本地集群之间管理 AI 计算的复杂性。它通过提供统一的接口来启动和扩展 AI 工作负载，消除了供应商锁定问题，同时优化成本和资源可用性（例如 GPU/TPU 的可用性）。

它如何工作

用户使用统一的 YAML 或 Python API 定义 AI 任务，指定资源需求（例如 8x A100 GPU）、数据同步、设置命令和执行命令。SkyPilot 会自动在支持的云平台或 Kubernetes/Slurm 集群中查找最便宜且可用的基础设施，配置资源，同步代码，安装依赖项，并运行任务。

适合谁使用

需要在多种基础设施提供商上运行任务的 AI 团队，以及需要统一控制平面来管理 AI 计算、调度和扩展的基础架构团队。

主要特性

• 多云和多集群支持：支持 20 多个云平台（AWS、GCP、Azure 等）、Kubernetes 和 Slurm 集群。
• GPU 集群优化：包含自动停止空闲资源、共享集群的分箱打包（binpacking）以及智能调度器以提高可用性。
• Kubernetes 增强：为 Kubernetes 添加了 AI 原生功能，包括群组调度（gang scheduling）、多节点任务和简化的交互式开发（SSH/IDE 连接）。
• BYOC（自带云）：所有内容都在用户自己的云账户和 VPC 内启动。
• 自动故障转移：在发生容量错误时，自动切换到其他可用的基础设施。

一个真正统一的 AI 计算平台，让跨云和集群的 AI 工作负载管理变得简单而高效 — @skyprobot