skypilot-org/skypilot

解決する課題

SkyPilotは、多様なインフラストラクチャにわたるAIワークロードの実行、管理、スケーリングのプロセスを簡素化します。さまざまなクラウドプロバイダー、Kubernetesクラスター、Slurmクラスターにジョブをデプロイするための統一されたインターフェースを提供し、コストとリソースの可用性を最適化することで、ベンダーロックインを排除します。

仕組み

ユーザーは、統一されたYAMLまたはPython APIを使用してAIタスクを定義し、リソース要件（GPU/TPUなど）、データ同期の必要性、セットアップ/実行コマンドを指定します。SkyPilotは、最も安価な利用可能なインフラストラクチャの検索、必要なコンピューティング（VMまたはpod）のプロビジョニング、コードベースの同期、依存関係のインストール、およびジョブの実行といった重労働を自動化します。

対象ユーザー

ジョブを起動するためのシンプルでポータブルな方法を必要とするAIチームと、複数のクラウドやクラスターにわたってAIコンピューティング、スケジューリング、オーケストレーションを管理するための統一されたコントロールプレーンを必要とするインフラストラクチャチーム向けに設計されています。

ハイライト

• マルチクラウドおよびマルチクラスター対応: 20以上のクラウド（AWS, GCP, Azureなど）、Kubernetes、およびSlurmに対応しています。
• GPUフリートの最適化: アイドルリソースに対するAutostop、共有クラスターでのbinpacking、可用性のためのインテリジェントなスケジューラなどの機能が含まれています。
• Kubernetesの強化: gang scheduling、マルチノードジョブ、簡素化されたインタラクティブ開発（SSH/IDE接続）など、AIネイティブな機能をKubernetesに追加します。
• AIエージェントの統合: AIエージェント（Claude Codeなど）がGPUアクセスとジョブを直接管理できるようにする「SkyPilot Skill」を提供します。
• サンドボックス: 既存のKubernetesクラスター上で、信頼できないLLM生成コードを実行する機能。