meta-pytorch/torchx

TorchX is a universal job launcher for PyTorch applications. TorchX is designed to have fast iteration time for training/research and support for E2E production ML pipelines when you're ready.

何を解決するか

TorchXは、異なるコンピューティング環境にわたってPyTorchアプリケーションを起動・管理するプロセスを簡素化します。各スケジューラごとに環境固有の設定ファイルを書く必要がなくなり、研究者やエンジニアはコードを変更せずにローカル開発から大規模なプロダクションパイプラインへ移行できます。

動作方法

TorchXはユニバーサルジョブランチャーとして機能します。Kubernetes（EKS、GKE、AKS）、Slurm、Docker、ローカルマシンなど、さまざまなスケジューラやインフラプロバイダーに対して一貫したインターフェースを提供し、ジョブを送信できます。

対象ユーザー

研究フェーズでの迅速なイテレーションと、その後のプロダクションMLパイプラインへのワークロードスケーリングが必要なPyTorchユーザー向けに設計されています。

主な特徴

  • PyTorchアプリケーション用のユニバーサルジョブランチャー。
  • Kubernetes、Slurm、Dockerなど複数のスケジューラをサポート。
  • 学習および研究における高速なイテレーション時間。
  • エンドツーエンドのプロダクションMLパイプラインをサポート。

関連

  • プロジェクト
    meta-pytorch/torchcomms

    An experimental communications API for PyTorch that provides a high-level collectives interface and support for multiple hardware backends like NCCL, RCCL, and XCCL.

  • プロジェクト
    datawhalechina/torch-rechub

    Torch-RecHubは、30以上のモデル、モジュール設計、ONNXエクスポート、複数のハードウェアバックエンドをサポートするPyTorchフレームワークです。

  • プロジェクト
    duoan/TorchCode

    MLエンジニアの面接対策のために、PyTorchの演算子やアーキテクチャを完全に自前で実装する練習ができるインタラクティブなコーディングプラットフォーム。

  • プロジェクト
    alibaba/TorchEasyRec

    PyTorchベースのレコメンデーションシステムフレームワークであり、最先端のモデルとスケーラブルなインフラを提供し、本番環境でのディープラーニング推薦を可能にします。

  • プロジェクト
    MooreThreads/torch_musa

    torch_musa は、Moore Threads GPU用の **MUSA** バックエンドを追加する PyTorch 拡張です。標準の PyTorch API を模倣しており、`cuda` を `musa` に置き換えるだけで利用可能です。C/C++ 拡張のビルドツール、**mccl** バックエンドによる分散トレーニング、および簡単なセットアップ用の Docker イメージを含んでいます。また、torchvision、torchaudio、およびその他の人気 PyTorch ライブラリの MUSA 対応ビルドも提供しています。事前ビルドされた wheel からインストールするか、MUSA SDK をインストール後にソースからビルドできます。プロジェクトは BSD ライセンスです。