modelscope/ms-swift

Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

What it solves

ms-swift 是一个全面的框架，旨在简化大型语言模型（LLMs）和多模态模型的整个生命周期，从训练与微调到评估与部署。它消除管理多样模型架构与硬件配置的复杂性，提供统一的流水线让开发者能够将模型适配到特定任务。

How it works

该框架提供高级接口（通过 CLI、Web-UI 或 Python API）抽象底层的训练和推理引擎。它集成各种轻量级微调技术（如 LoRA 与 QLoRA）和分布式训练策略（例如 DeepSpeed 与 Megatron 并行），以优化内存和速度。部署时，则利用 vLLM、SGLang 与 LMDeploy 等加速引擎，提供高性能的推理接口。

Who it’s for

它面向需要微调、评估和部署各种开源文本和多模态模型的 AI 研究者和开发者，支持不同硬件（NVIDIA、AMD、Ascend NPU 等），且无需编写大量样板代码。

Highlights

  • Massive Model Support：支持超过 600 种纯文本模型和 400 种多模态模型。
  • Full-Pipeline Capabilities：覆盖预训练、指令微调、人类对齐（RLHF/DPO）、量化、评估和部署。
  • Advanced RL Algorithms：内置支持 GRPO 系列的强化学习算法。
  • Hardware Flexibility：兼容 NVIDIA GPU、AMD GPU、CPU 和 Ascend NPU。
  • Lightweight Training：实现众多 PEFT 方法，包括 LoRA、QLoRA、DoRA 和 RS‑LoRA。
  • User‑Friendly Interfaces：提供零门槛的 Web-UI，适合偏好图形界面的用户。