hiyouga/LlamaFactory
Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
What it solves
LLaMA Factory는 방대한 양의 대규모 언어 모델(LLMs)을 미세 조정하기 위한 통합된 제로 코드 인터페이스를 제공합니다. 100개 이상의 서로 다른 모델에 대해 다양한 학습 스크립트와 하이퍼파라미터를 관리해야 하는 기술적 복잡성을 제거하여, 사용자가 많은 코드를 작성하지 않고도 특정 작업에 모델을 적응시킬 수 있도록 합니다.
How it works
이 프로젝트는 다양한 학습 방법과 최적화 알고리즘을 통합하는 포괄적인 툴킷을 제공합니다. 사용자는 명령줄 인터페이스(CLI) 또는 LlamaBoard라고 불리는 웹 기반 GUI를 통해 시스템과 상호 작용할 수 있습니다. Full-tuning, freeze-tuning, 그리고 LoRA 및 QLoRA(다양한 비트 깊이 지원)와 같은 매개변수 효율적 방법뿐만 아니라 고급 최적화 도구 및 선호도 학습 알고리즘(PPO, DPO, KTO, ORPO)을 지원합니다.
Who it’s for
이 프로젝트는 특정 도메인이나 작업(예: 멀티턴 대화, 도구 사용 또는 멀티모달 이해)을 위해 LLM을 미세 조정해야 하는 개발자 및 AI 연구원들을 위해 설계되었습니다. 처음부터 직접 학습 파이프라인을 구축할 필요가 없습니다.
Highlights
- Extensive Model Support: LLaMA, Mistral, Qwen, DeepSeek, Gemma를 포함한 100개 이상의 모델과 호환됩니다.
- Zero-Code Interface: CLI와 Gradio 기반의 Web UI(LlamaBoard)를 모두 제공하여 쉬운 설정을 지원합니다.
- Scalable Tuning: 16-bit full-tuning부터 고도로 압축된 QLoRA(2-bit ~ 8-bit)까지 모두 지원합니다.
- Multimodal Capabilities: 이미지 이해, 시각적 접지(visual grounding), 비디오 인식 및 오디오 이해를 위한 미세 조정을 지원합니다.
- High-Performance Inference: vLLM 및 SGLang workers와 통합되어 OpenAI 스타일의 API를 통해 가속화된 모델 배포를 지원합니다.