modelscope/ms-swift

何を解決するか

ms-swift は、大規模言語モデル（LLM）およびマルチモーダル大規模モデルのライフサイクル全体を簡素化する包括的なフレームワークです。トレーニング、ファインチューニング、評価、デプロイの複雑さを、多数のモデルアーキテクチャとハードウェア構成をサポートする統合的でスケーラブルなインフラによって解決します。

仕組み

このフレームワークは、モデル開発のフルパイプラインアプローチを提供します。LoRA や QLoRA などの軽量ファインチューニング手法と、Megatron並列処理や GRPO リインフォースメントラーニングなどの高度なトレーニング技術を統合し、パフォーマンスとメモリ使用量を最適化します。NVIDIA GPU から AMD GPU、Ascend NPU まで、幅広いハードウェアをサポートしています。ユーザーはコマンドラインインターフェース、Python API、またはグラフィカルインターフェースを好むユーザー向けのゼロスイッチWeb UI からフレームワークとやり取りできます。

対象ユーザー

大規模なテキストおよびマルチモーダルモデルを効率的にファインチューニングおよびデプロイする必要があるAI研究者や開発者向けです。特に制限されたハードウェアリソースで作業している人、または高パフォーマンスな分散トレーニングを必要とする人におすすめです。

主な特徴

• 広範なモデル対応: 600以上のテキスト専用モデルと400以上のマルチモーダル大規模モデルをサポート。
• フルパイプライン機能: 事前学習、インストラクションファインチューニング、評価、量子化、デプロイまでをカバー。
• 高度なRLHF: DAPO、GSPO、SAPO などの豊富なGRPOアルゴリズムと、好み学習（DPO、KTO、ORPO）を内蔵サポート。
• メモリと速度最適化: Flash-Attention 2/3、GaLore、UnSloth、Megatron並列処理（TP、PP、CP、EP）を統合し、トレーニングを高速化し、メモリオーバーヘッドを削減。
• ハードウェアの多様性: NVIDIA、AMD、CPU、MPS、Ascend NPU との互換性を備えています。
• 統合ツールキット: vLLM、SGLang、LMDeploy による推論加速、EvalScope による評価をサポート。