Hugging Face ML Intern: 자동화된 모델 개발 및 정제
Hugging Face는 HuggingChat에 통합된 ML Intern이라는 능동적 도구의 능력을 입증했다. 자연어 프롬프트를 상세히 제공함으로써 사용자는 ML Intern에게 데이터셋을 식별하고, 기반 모델을 선택하며, 학습 스크립트를 실행하고, 평가를 수행한 후 결과 모델을 직접 Hugging Face Hub에 게시하도록 지시할 수 있다.
자동화된 ML 워크플로우 및 프롬프팅 전략
ML Intern는 자율적인 에이전트로서 개발 작업을 계획하고, 사용자로부터 특정 예산을 요청한 후에 비용을 지출하며, 가중치가 변경되는지 확인하기 위해 스모크 테스트를 실행하고, Hugging Face 하드웨어에서 전체 학습 및 평가 프로세스를 수행한다.
에이전트의 효과를 극대화하기 위해 구조화된 프롬프팅 접근법을 권장한다:
- 아이디어 및 근거: 원하는 모델과 그 필요성에 대한 명확한 진술로 시작한다.
- 사양: 데이터셋, 기반 모델, 학습 스크립트를 명시적으로 명명한다.
- 검증된 사실: "검증된 사실, 재추론하지 마세요"라는 제목의 섹션을 포함하여, 에이전트가 이미 알려진 정보를 다시 발견하는 데 컴퓨팅 예산을 낭비하지 않도록 한다.
- 베이스라인 요구사항: 학습 후 실제 성과 향상을 측정하기 위해 기반 모델이 대상 지표에서 제로샷 점수를 제공하도록 요청한다.
- 스모크 테스트: 작은 초기 실행(예: 50개의 학습 단계)을 강제하고, 저장된 가중치가 변경되었는지 확인한 후에 전체 학습 실행을 승인한다.
- 예산 통제: 엄격한 지출 한도(예: "총 지출을 USD 12로 제한")을 정의하며, 이를 초과하기 전에 승인을 요청해야 한다.
모델 생성 사례 연구
ML Intern를 사용해 며칠 내에 다양한 모달리티와 사용 사례에 맞는 특화된 모델들이 개발되었다:
도메인 특화 비전 모델
ML Intern는 Qwen3.5-2B를 미세조정하여 오렌지 식물의 21가지 병해충, 질병, 영양 결핍을 식별할 수 있는 citrus-disease-vlm 모델을 개발했다. 기반 모델의 335장의 테스트 사진에 대한 정확도는 14.9%에서 52.8%로 두 에포크 동안 한 개의 A10G GPU에서 향상되었으며, 비용은 약 USD 1.90였다.
캐릭터 특화 LoRAs
84개의 캡션된 그림을 사용해 FLUX.2 klein base 4B에 대해 LoRA를 학습시켜 특정 브랜드 캐릭터인 "Huggy"를 일관되게 렌더링할 수 있는 모델을 만들었다. 체크포인트는 100단계마다 저장되어 캐릭터의 정확도와 스타일 오버랩 사이의 최적 균형을 찾는 데 사용되었으며, 비용은 약 USD 7.60였다.
기능적 이미지 LoRAs
Qwen-Image 2.1을 위한 두 가지 특화된 LoRA가 개발되었다:
- Viewpoint Orbit LoRA: 이 모델은 사용자가 특정 각도에서 객체를 보여달라고 요청할 수 있게 한다. ML Intern는 1,030개의 스캔된 객체에서 24,722개의 투명 이미지를 렌더링하여 학습 데이터셋을 생성했다. 프로젝트 비용은 약 USD 16이다.
- Doodle-in LoRA: 이 모델은 사진 내의 마젠타 색깔의 낙서를 특정 객체로 대체하면서 조명과 구성은 유지한다. ML Intern는 LaMa 인페인팅 모델을 사용해 6,042개의 학습 쌍으로 구성된 데이터셋을 합성했다. 프로젝트 비용은 약 USD 24.30이다.
모델 정제 및 압축
ML Intern는 기존 모델의 더 작고 효율적인 버전을 생성하는 데 사용되었다:
- Pocket Rewriter: 9B의 Qwen-Image 2.1 프롬프트 리라이터의 0.8B 및 2B 학생 버전. 0.8B 버전은 CPU에서 실행되며, 교사 모델의 토큰 사용량의 1/4만 사용하면서 99.7%의 시간에 유효한 출력을 반환한다. 전체 컴퓨팅 비용은 USD 16.05였다.
- Agate 4-step: Logolabs의 Agate Preview 002(260M 파라미터)의 정제된 버전. 원래 모델은 50단계 필요했지만, ML Intern는 이를 4단계로 줄였다. 두 번의 학습 실행 후 GenEval 점수는 0.509에서 0.536으로 향상되었으며(교사 모델의 50단계 기준 0.563과 비교), 컴퓨팅 비용은 75% 감소했다. 총 비용은 USD 37이다.
자원 및 비용 요약
6개 프로젝트에서 GPU 및 CPU 작업에 대한 총 컴퓨팅 비용은 약 USD 103이다.
| 모델 | 기반 모델 | 컴퓨팅 비용 |
|---|---|---|
| Citrus Doctor | Qwen3.5-2B | USD 1.90 |
| Huggy LoRA | FLUX.2 klein base 4B | USD 7.60 |
| Pocket Rewriter (0.8B & 2B) | Qwen3.5-0.8B & 2B | USD 16.05 |
| Viewpoint Orbit LoRA | Qwen-Image 2.1 | USD 16 |
| Doodle-in LoRA | Qwen-Image 2.1 | USD 24.30 |
| Agate 4-step | Agate Preview 002 | USD 37 |
| 합계 | ~USD 103 |