axolotl-ai-cloud/axolotl

해결하는 문제

Axolotl은 대규모 언어 모델(LLM)의 후처리 및 파인튜닝이라는 복잡한 과정을 단순화합니다. 새로운 모델이나 기술마다 맞춤형 훈련 스크립트를 작성할 필요 없이, 하나의 YAML 파일로 데이터 전처리부터 양자화까지 전체 파이프라인을 구성할 수 있는 통합 프레임워크를 제공합니다.

작동 방식

Axolotl은 다양한 훈련 라이브러리와 최적화 기술을 래핑하고 조율하는 역할을 합니다. Llama, Mistral, Qwen 등 다양한 모델과 텍스트, 비전, 오디오 등 다양한 모달리티를 지원합니다. 사용자는 구성 파일에 훈련 파라미터를 정의하고, Axolotl이 하위 기술적 실행(Flash Attention 및 FSDP, DeepSpeed를 활용한 다중 GPU 또는 노드 간 분산 훈련 포함)을 처리합니다.

대상 사용자

다른 훈련 프레임워크와 관련된 반복 코드를 관리하지 않고도 오픈소스 LLM을 커스텀 데이터셋에서 파인튜닝하고자 하는 AI 연구자, 개발자, 기관을 위한 것입니다.

주요 특징

• 광범위한 모델 지원: Hugging Face Hub의 다양한 모델(시각-언어 및 오디오 다중 모달 모델 포함)과 호환됩니다.
• 다양한 기법 통합: 전체 파인튜닝, LoRA, QLoRA, 선호도 튜닝(DPO, ORPO), 강화학습(GRPO), 보상 모델링을 지원합니다.
• 고급 최적화: Flash Attention 2/3/4, 시퀀스 병렬 처리, 다양한 양자화 방법(FP8, NVFP4)을 통합하여 VRAM 사용량을 줄이고 속도를 향상시킵니다.
• 구성 기반: 전체 파이프라인을 하나의 YAML 파일로 관리하여 실험의 재현성과 공유 용이성을 보장합니다.
• 에이전트 대응: Cursor 및 Claude Code와 같은 AI 코딩 에이전트에 최적화된 내장 문서를 제공합니다.