modelscope/ms-swift

Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

What it solves

ms-swift 是一個全面的框架，旨在簡化大型語言模型（LLMs）與多模態模型的整個生命週期，從訓練與微調到評估與部署。它消除管理多樣模型架構與硬體配置的複雜性，提供統一的管線讓開發者能將模型調整至特定任務。

How it works

此框架提供高階介面（透過 CLI、Web-UI 或 Python API）抽象底層的訓練與推論引擎。它整合各種輕量級微調技術（如 LoRA 與 QLoRA）與分散式訓練策略（例如 DeepSpeed 與 Megatron 平行化），以優化記憶體與速度。部署時，則利用 vLLM、SGLang 與 LMDeploy 等加速引擎，提供高效能的推論介面。

Who it’s for

此框架適用於需要微調、評估與部署各式開源文本與多模態模型的 AI 研究者與開發者，支援不同硬體（NVIDIA、AMD、昇騰 NPU 等），且不需撰寫大量樣板程式碼。

Highlights

  • Massive Model Support：支援超過 600 種純文字模型與 400 種多模態模型。
  • Full-Pipeline Capabilities：涵蓋預訓練、指令微調、人類對齊（RLHF/DPO）、量化、評估與部署。
  • Advanced RL Algorithms：內建支援 GRPO 系列的強化學習演算法。
  • Hardware Flexibility：相容於 NVIDIA GPU、AMD GPU、CPU 與昇騰 NPU。
  • Lightweight Training：實作多種 PEFT 方法，包括 LoRA、QLoRA、DoRA 與 RS‑LoRA。
  • User‑Friendly Interfaces：提供零門檻的 Web-UI，適合偏好圖形介面的使用者。