h2oai/h2o-llmstudio

H2O LLM Studio – 대규모 언어 모델을 위한 노코드 미세조정

무엇인가요 – H2O Wave를 기반으로 한 그래픽 웹 UI를 포함한 Python 기반 프레임워크입니다. LLM의 훈련, 평가, 내보내기를 가능하게 하며, 코드를 작성하지 않고도 Hugging Face 호환 모델을 미세조정할 수 있습니다. LoRA, 8비트 훈련, DeepSpeed 샤딩, 그리고 최신의 DPO/IPO/KTO 선호 기반 최적화 기법을 지원합니다.

주요 기능

• 제로 코드 UI – 데이터셋을 업로드하고, 모델을 선택하고, 하이퍼파라미터를 설정하고, 훈련을 시작하며, 실시간 로그/메트릭을 확인할 수 있습니다.
• 고급 미세조정 기술 – LoRA, 8비트 양자화, DeepSpeed 샤딩, DPO/IPO/KTO(실험적 RLHF 대체).
• 평가 및 비교 – 내장 메트릭, 시각적 실험 비교, 선택적 Weights & Biases 통합.
• 인터랙티브 채팅 – 훈련 후, 채팅 창을 열어 모델을 즉시 테스트할 수 있습니다.
• 내보내기 – 단일 클릭 또는 CLI 명령어로 결과 체크포인트를 Hugging Face Hub에 푸시할 수 있습니다.
• CLI 모드 – UI의 모든 작업은 YAML 기반 명령줄 인터페이스를 통해 재현 가능하며, 스크립트 또는 헤드리스 서버에 적합합니다.

일반적인 워크플로우

1. 설치 (Python 3.10에서 uv 추천) 후 make llmstudio로 Wave 서버를 시작합니다.
2. Chrome에서 http://localhost:10101/을 엽니다.
3. 실험 생성: 기본 LLM을 선택하고, 데이터를 업로드(문서에 설명된 형식의 CSV/JSONL), 문제 유형(예: 인과 분류, 회귀, DPO)을 선택하고 하이퍼파라미터를 구성합니다.
4. 훈련 시작 – UI는 GPU 사용량, 손실 곡선, 평가 점수를 표시합니다.
5. 훈련이 완료되면 내장 채팅을 사용해 모델과 상호작용하거나 다른 실행 결과와 비교합니다.
6. 모델을 Hugging Face에 내보내거나 로컬에 체크포인트를 다운로드합니다.

설치 요약

• 시스템 요구사항 – NVIDIA GPU(_CUDA 13, 드라이버 ≥ 580)를 갖춘 Ubuntu 16.04 이상. 대규모 모델에는 24GB GPU 메모리 권장.
• 빠른 시작 – make setup은 uv 가상 환경을 생성하고 종속성을 설치합니다.
• Docker 대안 – h2oairelease/h2oai-llmstudio-app:latest를 다운로드하고 --runtime=nvidia로 실행하면 UI는 동일한 localhost 주소에서 접근 가능합니다.

CLI 실행 방법

uv run python llm_studio/train.py -Y path/to/config.yaml   # 단일 GPU
bash distributed_train.sh 4 -Y path/to/config.yaml          # 다중 GPU DDP
uv run python llm_studio/prompt.py -e my_experiment        # 훈련된 모델과 채팅
uv run python llm_studio/publish_to_hugging_face.py -p my_experiment -a <HF_KEY>

문서 및 커뮤니티

• 전체 문서: https://docs.h2o.ai/h2o-llmstudio/
• 지원 및 토론을 위한 Discord.
• Kaggle, Colab에서 예제 노트북, RunPod 클라우드 템플릿(ワン클릭 GPU 인스턴스).

라이선스 – Apache 2.0.

---

결론 – H2O LLM Studio는 초보자도 쉽게 사용할 수 있으며, 프로덕션 환경에서도 활용 가능한 최신 LLM 미세조정 환경을 제공합니다. 데이터 수집부터 모델 내보내기까지 모든 과정을 처리하며, 고급 사용자를 위한 선택적 저수준 CLI 제어도 제공합니다.