skypilot: 一个用于在多云和多集群中管理和扩展 AI 计算的统一控制平面

它解决了什么问题

SkyPilot 解决了在不同环境中管理 AI 计算的复杂性。它通过提供一个统一的接口，在任何云提供商、Kubernetes 集群或 Slurm 集群上运行 AI 工作负载，同时优化成本和资源可用性，从而消除了供应商锁定。

它是如何工作的

用户使用统一的 YAML 或 Python API 定义其 AI 任务，指定资源需求（如 GPUs/TPUs）、数据同步需求以及设置/运行命令。SkyPilot 随后会自动完成繁重的工作：寻找最便宜的可用基础设施、配置资源、同步代码库、安装依赖项并执行任务。它还包括诸如针对空闲资源的 autostop 功能和针对共享集群的 binpacking 功能，以最大限度地提高 GPU 利用率。

适用人群

它专为需要简单、便携的方式来启动和管理任务的 AI 团队，以及需要统一控制平面来进行 AI 计算调度、扩展和编排的基础设施团队而设计。

亮点

• 多云和多集群支持：支持 20 多种云（AWS, GCP, Azure 等）、Kubernetes 和 Slurm。
• GPU 优化：具有用于寻找最便宜可用基础设施的智能调度器、针对空闲资源的 autostop 功能以及 binpacking 功能。
• AI 原生 Kubernetes：通过 SSH 和 IDE 连接简化了在 K8s 上的交互式开发，并增加了 gang scheduling 等高级调度功能。
• BYOC 模型：作为一个“Bring Your Own Cloud”系统运行，在用户自己的账户和 VPCs 中启动所有内容。
• Agent 集成：为 AI agents 提供“SkyPilot Skill”，用于管理 GPU 访问和任务。