ZHZisZZ/dllm

해결하는 문제

dLLM은 확산 언어 모델(dLLM)의 학습, 추론, 평가를 통합하기 위해 설계된 라이브러리입니다. 분산된 개발 프로세스를 대체하는 표준화된 파이프라인을 제공하여 비자기회귀 텍스트 생성 모델의 개발과 배포를 더 투명하고 재현 가능하게 만듭니다.

작동 방식

이 라이브러리는 핵심 재사용 모듈(samplers, schedulers, trainers)과 애플리케이션 전용 파이프라인으로 구성된 모듈식 프레임워크를 제공합니다. 업계 표준 도구인 Hugging Face의 transformers Trainer, lm-evaluation-harness, LoRA, DeepSpeed, FSDP와 통합되어 확장 가능한 학습을 지원합니다.

다양한 확산 알고리즘(Masked Diffusion(MDLM), Block Diffusion(BD3LM))을 지원하며, 기존 자기회귀(AR) 모델이나 BERT 인코더를 확산 모델로 변환하는 레시피(예: Tiny-A2D, BERT-Chat)를 제공합니다.

대상 사용자

확산 기반 텍스트 생성에 종사하는 AI 연구자 및 개발자. 특히 LLaDA, Dream과 같은 모델을 학습, 미세조정, 평가하고 싶거나, 일반적인 LLM을 확산 모델로 변환하고자 하는 사람들을 위한 것입니다.

주요 특징

• 통합 파이프라인: 학습, 샘플링, 평가를 하나의 라이브러리로 통합.
• 확장 가능한 학습: LoRA, DeepSpeed, FSDP를 지원하여 대규모 효율적 학습 가능.
• 모델 변환: LLaMA, Qwen 등 임의의 자기회귀 모델이나 BERT 인코더를 확산 모델로 변환하는 레시피 포함.
• 추론 지원: GSM8K, MATH와 같은 추론 작업을 위한 diffu-GRPO 학습 구현.
• 가속화된 추론: Fast-dLLM과 통합하여 캐시 및 신뢰도 기반 디코딩 지원.