Hugging Face: 머신러닝 as 코드의 시대

허깅 페이스는 "Machine Learning as Code"로의 전환을 제안하며, AI 배포의 성숙도가 견고하고 확장 가능하며 반복 가능한 시스템을 구축하기 위해 확립된 소프트웨어 엔지니어링과 DevOps 관행을 채택해야 한다고 주장합니다.

Adopting Software Engineering Rigor for ML

머신러닝 워크플로는 실험용 샌드박스에서 프로덕션급 소프트웨어 엔지니어링으로 전환해야 합니다. 허깅 페이스는 10년 이상 된 소프트웨어 엔지니어링 베스트 프랙티스—버전 관리, 재사용성, 테스트 가능성, 자동화, 배포, 모니터링, 성능, 최적화를 포함하여—이 데이터 과학과 머신러닝에 직접 적용 가능하다고 주장합니다.

이 접근 방식은 구글의 "Machine Learning의 규칙"을 지지하며, 여기서 실무자는 "당신이 아닌 위대한 머신러닝 전문가가 아니라 위대한 엔지니어처럼 머신러닝을 해야 한다"고 제안합니다. 목표는 개념 증명과 A/B 테스트를 넘어서는 것이며, "괜찮은 프로덕션 프로덕션 모델은 매번 훌륭한 샌드박스 모델을 이긴다"는 것입니다.

The Rise of MLOps and Infrastructure Abstraction

클라우드 API, 인프라 as 코드, Kubeflow 같은 플랫폼의 부상으로 인해 인프라는 더 이상 ML 배포의 주요 장벽이 아닙니다. 허깅 페이스가 인용한 Kaggle 설문 조사에 따르면, 응답자의 75%가 클라우드 서비스를 사용하고 45% 이상이 엔터프라이즈 ML 플랫폼을 사용하며, Amazon SageMaker, Databricks, Azure ML Studio가 가장 두드러집니다.

인프라가 점점 더 소프트웨어로 정의됨에 따라, 허깅 페이스는 조직이 더 많은 데이터 과학자를 추가하기보다 ML에 능통한 소프트웨어와 DevOps 엔지니어를 우선적으로 채용하여 모델이 샌드박스에서 프로덕션으로 효율적으로 이동하도록 해야 한다고 제안합니다.

Transformers as a General-Purpose ML Architecture

Transformer 아키텍처는 자연어 처리(NLP)를 넘어 다른 영역으로 확장된 범용 프레임워크로 진화했습니다:

• Computer Vision: Vision Transformer(ViT)와 CoAtNet(트랜스포머와 컨볼루션을 결합한 모델)과 같은 모델들은 ImageNet에서 이미지 분류에 새로운 기준을 세우면서 훈련 컴퓨팅 요구 사항을 줄였습니다.

• Audio and 3D Modeling: 트랜스포머는 음성 인식과 자율 주행 장면에서 발견되는 것과 같은 3D 환경을 모델링하기 위한 포인트 클라우드에 효과적으로 사용됩니다.

Kaggle 설문 데이터에 따르면 RNN, CNN, 그래디언트 부스팅 알고리즘의 사용은 감소하고 있지만, 트랜스포머의 채택은 계속 증가하고 있습니다. 이 변화는 팀이 검증된 기성 모델을 선택하고 특정 데이터에 대해 미세 조정하여 훈련 시간과 컴퓨팅 비용을 크게 줄이는 "전송 학습" 워크플로를 가능하게 합니다.

The Hugging Face Ecosystem

ML as 코드로의 전환을 촉진하기 위해 허깅 페이스는 16,000개 이상의 모델과 1,600개 이상의 데이터 세트를 제공하는 중앙 집중형 허브를 제공합니다. 생태계에는 다음을 위한 도구가 포함됩니다:

• Inference: 모델 배포를 위한 API.

• AutoNLP: 자동화된 머신러닝 도구.

• Latency Optimization: Infinity와 같은 도구.

• Hardware Acceleration: 특수 하드웨어와의 통합.

이러한 리소스를 제공함으로써 허깅 페이스는 머신러닝의 생산성을 높여 모델을 훈련, 최적화, 배포하는 데 필요한 코드의 양을 최소화하고 머신러닝 수명 주기에 소프트웨어 엔지니어링 베스트 프랙티스를 내재화하려고 합니다.