modelscope/ms-swift

解決する課題

ms-swift は、大規模言語モデル (LLM) およびマルチモーダルモデルのライフサイクル全体をカバーする、包括的でスケーラブルなインフラストラクチャを提供します。事前学習、微調整、人間によるアライメント、評価、量子化、デプロイという複雑なプロセスを簡素化し、単一のフレームワークで生データからデプロイ済みモデルまでを一貫して扱えるようにします。

仕組み

このフレームワークは、さまざまなトレーニング技術とアクセラレーションエンジンを統合し、異なるハードウェア環境でパフォーマンスを最適化します。膨大な数のモデル（600以上のテキストモデルと400以上のマルチモーダルモデル）をサポートし、複数のトレーニングパスを提供します：

• 軽量微調整: LoRA、QLoRA、DoRA などの手法を実装し、リソース要件を削減します。
• 分散トレーニング: DeepSpeed、FSDP、Megatron 並列化 (TP, PP, CP, EP) を活用し、巨大なモデルや MoE アーキテクチャに対応します。
• 強化学習: 人間によるアライメントのための広範な GRPO アルゴリズムファミリー (GRPO, DAPO, GSPO など) を含みます。
• 最適化: GaLore、UnSloth、Flash-Attention 2/3 などのメモリ節約技術を採用しています。
• デプロイ: vLLM、SGLang、LMDeploy と統合し、高性能な推論を実現します。

対象ユーザー

最先端の大規模モデルを効率的に微調整・デプロイする必要がある AI 研究者や開発者向けに設計されています。特に、マルチモーダルデータを扱う場合や、多様なハードウェア (NVIDIA, AMD, Ascend など) で大規模な分散トレーニングが必要な場合に最適です。

主な特徴

• 膨大なモデルサポート: 1,000以上のテキストおよびマルチモーダルモデルを Day-0 でサポート。
• ハードウェア非依存: NVIDIA GPU、AMD GPU、Apple MPS、CPU、および国内の NPU/GPU で動作します。
• フルパイプライン: データセットの準備からトレーニング、量子化、OpenAI 互換のデプロイまでを網羅。
• 高度な強化学習: GRPO アルゴリズムファミリーや、DPO、ORPO などの選好学習手法を組み込みでサポート。
• ユーザーフレンドリー: コマンドラインインターフェースと、専門知識が不要な Web-UI の両方を提供。