modelscope/ms-swift

解決的問題

ms-swift 是一個全面的框架，旨在簡化大型語言模型（LLMs）和多模態大模型的整個生命週期。它透過提供一個統一且可擴展的基礎設施，支援大量模型架構與硬體組態，解決這些模型在訓練、微調、評估與部署上的複雜性。

工作原理

該框架提供完整的端對端開發流程。它整合多種輕量級微調方法（如 LoRA 和 QLoRA）以及先進的訓練技術（如 Megatron 並行與 GRPO 強化學習），以優化效能與記憶體使用。支援從 NVIDIA GPU 到 AMD GPU 和 Ascend NPU 的廣泛硬體。使用者可透過命令列介面、Python API，或為偏好圖形介面的使用者提供的零門檻 Web-UI 與框架互動。

適用對象

專為需要高效微調與部署大規模文字及多模態模型的 AI 研究人員與開發者設計，特別適合在硬體資源受限或需要高階分散式訓練的場景下工作的使用者。

主要亮點

• 廣泛的模型支援：支援超過 600 個純文字模型與 400 個多模態大模型。
• 全流程功能：涵蓋從預訓練、指令微調到評估、量化與部署的全部環節。
• 先進的 RLHF：內建對多種 GRPO 算法（如 DAPO、GSPO、SAPO）與偏好學習（DPO、KTO、ORPO）的支援。
• 記憶體與速度優化：整合 Flash-Attention 2/3、GaLore、UnSloth 與 Megatron 並行（TP、PP、CP、EP），加速訓練並減少記憶體開銷。
• 硬體多樣性：相容 NVIDIA、AMD、CPU、MPS 與 Ascend NPU 硬體。
• 整合工具鏈：支援透過 vLLM、SGLang 和 LMDeploy 實現推理加速，以及透過 EvalScope 進行評估。