Azure Machine Learning에서의 Hugging Face 모델 카탈로그
Hugging Face와 Microsoft는 Hugging Face Hub 모델 카탈로그를 Azure Machine Learning Studio에 직접 통합했습니다. 이 협업을 통해 사용자는 몇 번의 클릭만으로 관리형 엔드포인트를 사용하여 보안かつ확장 가능한 Azure 인프라에 Hugging Face Hub의 수천 가지 인기 있는 Transformers 모델을 배포할 수 있습니다.
엔터프라이즈 배포를 위한 네이티브 통합
Hugging Face 모델 카탈로그는 이제 Azure Machine Learning Studio 경험의 네이티브 부분입니다. 이 통합은 Hugging Face가 네이티브 통합을 통해서만 해결할 수 있는 제한이 있었던 유망한 초기 단계라고 설명하는 이전 Azure Marketplace 관리형 앱 솔루션을 대체합니다.
이 네이티브 경험으로의 전환은 엄격한 보안, 규정 준수, 개인 정보 보호 요구 사항을 충족하기 위해 인프라에 대한 관리자 통제가 필요한 엔터프라이즈 고객의 특정 요구를 해결하도록 설계되었습니다. 자체 보안 Azure 환경 내에서 모델을 배포함으로써 조직은 데이터와 데이터 흐름에 대한 필요한 거버넌스를 유지하면서 오픈소스 모델을 활용할 수 있습니다.
프로덕션 추론 과제 해결
프로덕션에 Transformers를 배포하는 것은 일반적으로 단순함과 제어 사이의 trade-off를 포함합니다. 이 통합은 세 가지 주요 과제를 해결합니다:
- 모델 선택 제한: 표준 클라우드 기반 AI 서비스는 종종 특정 작업 유형을 지원하지 않거나 깊은 커스터마이징을 허용하지 않을 수 있는 제한된 모델 세트를 제공합니다.
- 운영 복잡성: 사내 플랫폼 또는 일반 클라우드 ML 서비스는 완전한 제어를 제공하지만, 프로덕션 등급 추론 API를 배포하고 확장하는 데 필요한 시간, 복잡성, 비용을 종종 증가시킵니다.
- 보안 및 규정 준수: 많은 조직은 모델이 직접적인 관리자 통제 하에 있는 인프라에 배포되어야 한다는 의무 사항으로 인해 타사 AI 서비스를 사용할 수 없습니다.
Azure Machine Learning에서의 배포 워크플로
Hugging Face Hub에서 Azure Machine Learning으로 모델을 배포하는 프로세스는 몇 가지 단계로 간소화되었습니다.
- 레지스트리 액세스: Azure Machine Learning Studio 내에서 Hugging Face 레지스트리를 엽니다.
- 카탈로그 찾아보기: Hugging Face 모델 카탈로그에 접근하여 작업 또는 라이선스별로 모델을 필터링합니다.
- 모델 선택: 세부 페이지를 열 특정 모델 타일을 선택합니다.
- 배포 구성: 실시간 배포 옵션을 선택합니다.
- 인프라 프로비저닝: Azure 인스턴스 유형을 선택하고 배포를 시작합니다.
배포된 후, 모델은 몇 분 내에 애플리케이션에 통합할 수 있는 추론 API로 제공됩니다.
가용성
Azure Machine Learning에서의 Hugging Face 모델 카탈로그는 Azure Machine Learning이 현재 제공되는 모든 Azure 지역에서 공개 미리보기로 제공됩니다.