skypilot: 複数のクラウドとクラスターにわたって AI コンピューティングを管理・拡張するための統合コントロールプレーン

何を解決するか

SkyPilot は、多様な環境にわたる AI コンピューティングの管理の複雑さを解決します。コストとリソースの可用性を最適化しながら、あらゆるクラウドプロバイダー、Kubernetes クラスター、または Slurm クラスター上で AI ワークロードを実行するための統合インターフェースを提供することで、ベンダーロックインを排除します。

仕組み

ユーザーは、統一された YAML または Python API を使用して AI タスクを定義し、リソース要件（GPU/TPU など）、データ同期の必要性、セットアップ/実行コマンドを指定します。SkyPilot は、その後、最も安価で利用可能なインフラストラクチャを見つけ、リソースをプロビジョニングし、コードベースを同期し、依存関係をインストールし、ジョブを実行するという、重い作業を自動化します。また、アイドル状態のリソースに対する autostop や、GPU 利用率を最大化するための共有クラスター向けの binpacking などの機能も含まれています。

対象ユーザー

ジョブの起動と管理のためのシンプルでポータブルな方法を必要とする AI チーム、および AI コンピューティングのスケジューリング、スケーリング、オーケストレーションのための統合コントロールプレーンを必要とするインフラストラクチャ チーム向けに設計されています。

ハイライト

• Multi-cloud and Multi-cluster Support: 20 以上のクラウド（AWS, GCP, Azure など）、Kubernetes、および Slurm で動作します。
• GPU Optimization: 最も安価で利用可能なインフラのためのインテリジェントなスケジューラー、アイドル状態のリソースに対する autostop、および binpacking を備えています。
• AI-Native Kubernetes: SSH および IDE 接続を介した K8s 上のインタラクティブな開発を簡開化し、gang scheduling のような高度なスケジューリングを追加します。
• BYOC Model: 「Bring Your Own Cloud」システムとして動作し、すべてをユーザー自身のカウントおよび VPC 内で起動します。
• Agent Integration: AI エージェントが GPU アクセスとジョブを管理するための「SkyPilot Skill」を提供します。