skypilot-org/skypilot

何を解決するか

SkyPilot は、異なるクラウドプロバイダーやオンプレミスクラスタ間での AI コンピューティングの管理の複雑さに対処します。サポートされているクラウドや Kubernetes/Slurm クラスタ across で最も安価かつ利用可能なインフラを自動的に検出し、AI ワークロードを起動・スケーリングするための統一インターフェースを提供することで、ベンダーロックインを排除します。同時に、コストとリソースの可用性（例：GPU/TPU の可用性）を最適化します。

どうやって動くか

ユーザーは、リソース要件（例：8x A100 GPU）、データ同期、セットアップコマンド、実行コマンドを指定する統一された YAML または Python API を使って AI タスクを定義します。SkyPilot はその後、対応しているクラウドや Kubernetes/Slurm クラスタ across で最も安価かつ利用可能なインフラを自動的に探し出し、リソースをプロビジョニングし、コードを同期し、依存関係をインストールしてジョブを実行します。

対象ユーザー

さまざまなインフラストラクチャプロバイダー上でジョブを実行する必要がある AI チーム、および AI コンピューティング、スケジューリング、スケーリングを統一されたコントロールプレーンで管理したいインフラチーム。

特徴

• マルチクラウド・マルチクラスタ対応: AWS、GCP、Azure など 20 種類以上のクラウド、Kubernetes、Slurm クラスタをサポート。
• GPU フリート最適化: 空きリソースの自動停止（Autostop）、共有クラスタ向けのビンパッキング、可用性を考慮したインテリジェントスケジューラなどの機能を含む。
• Kubernetes の強化: ガングスケジューリング、マルチノードジョブ、インタラクティブ開発（SSH/IDE 接続）を簡素化する、AI 向けの機能を Kubernetes に追加。
• BYOC（Bring Your Own Cloud）: すべてのリソースはユーザー自身のクラウドアカウントおよび VPC 内で起動される。
• 自動フェイルオーバー: キャパシティエラーが発生した場合、他の利用可能なインフラに自動的に切り替える。

"SkyPilot は、AI 開発者が複数のクラウド環境で作業できるようにし、コストとリソースの可用性を最適化するための強力なツールです。" — @skyprobot