modelscope/ms-swift

Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

What it solves

ms-swift는 대형 언어 모델(LLMs) 및 멀티모달 모델의 전체 수명 주기(학습, 파인튜닝, 평가, 배포)를 단순화하도록 설계된 종합 프레임워크입니다. 다양한 모델 아키텍처와 하드웨어 구성을 관리하는 복잡성을 없애고, 개발자가 모델을 특정 작업에 맞게 조정할 수 있는 통합 파이프라인을 제공합니다.

How it works

이 프레임워크는 CLI, Web-UI 또는 Python API를 통해 고수준 인터페이스를 제공하여 기본 학습 및 추론 엔진을 추상화합니다. LoRA와 QLoRA 같은 경량 파인튜닝 기법과 DeepSpeed, Megatron 병렬화와 같은 분산 학습 전략을 통합해 메모리와 속도를 최적화합니다. 배포 시에는 vLLM, SGLang, LMDeploy와 같은 가속 엔진을 활용해 고성능 추론 인터페이스를 제공합니다.

Who it’s for

이 프레임워크는 NVIDIA, AMD, Ascend NPU 등 다양한 하드웨어에서 다양한 오픈소스 텍스트 및 멀티모달 모델을 미세 조정, 평가, 배포해야 하는 AI 연구자와 개발자를 위한 것입니다. 방대한 보일러플레이트 코드를 작성할 필요가 없습니다.

Highlights

  • Massive Model Support: 600개 이상의 텍스트 전용 모델과 400개 이상의 멀티모달 모델을 지원합니다.
  • Full-Pipeline Capabilities: 사전 학습, 지시 파인튜닝, 인간 정렬(RLHF/DPO), 양자화, 평가 및 배포를 모두 포괄합니다.
  • Advanced RL Algorithms: GRPO 계열 강화 학습 알고리즘을 내장 지원합니다.
  • Hardware Flexibility: NVIDIA GPU, AMD GPU, CPU, Ascend NPU와 호환됩니다.
  • Lightweight Training: LoRA, QLoRA, DoRA, RS‑LoRA 등 다양한 PEFT 방식을 구현합니다.
  • User‑Friendly Interfaces: 명령줄보다 GUI를 선호하는 사용자를 위해 제로 임계값 Web-UI를 제공합니다.