Microsoft와 Hugging Face, Azure AI Foundry를 위한 협업 확대
Microsoft와 Hugging Face는 10,000개 이상의 오픈 소스 모델을 직접 Azure AI Foundry에 통합하도록 협업을 확대했습니다. 이 파트너십을 통해 기업은 보안이 강화된 엔터프라이즈급 인프라에서 다양한 오픈 모델을 배포할 수 있어, 기술과 개인 데이터에 대한 통제권을 유지할 수 있습니다.
엔터프라이즈급 오픈 모델 배포
Azure AI Foundry는 이제 모델 카탈로그에 "Hugging Face Collection"을 제공하여 10,000개가 넘는 모델에 즉시 접근할 수 있습니다. 이러한 모델은 텍스트, 오디오, 이미지, 일반 등 다양한 모달리티와 작업을 지원합니다.
- 텍스트: 생성, 특징 추출, fill-mask, 번역.
- 오디오: 자동 음성 인식 및 오디오 분류.
- 이미지: 분류, 세그멘테이션, text-to-image 생성, image-to-text 변환.
- 일반: 문장 유사도 식별.
이 모델들이 엔터프라이즈에 적합하도록 Hugging Face와 Microsoft는 엄격한 보안 기준을 적용합니다. 다음 요구 사항을 충족하는 모델만 컬렉션에 포함됩니다.
- 보안 검사: 모델은 ProtectAI Guardian 및 JFrog 보안 스캐너를 사용한 보안 테스트를 통과하여 취약점을 식별해야 합니다.
- 안전 포맷: 모델 가중치는 잠재적인 Pickle 취약점을 없애기 위해
safetensors포맷으로 저장되어야 합니다. - 원격 코드 금지: 모델은 런타임 중 임의 코드 삽입을 방지하기 위해 원격 코드를 포함할 수 없습니다.
또한 Microsoft와 Hugging Face는 추론 컨테이너를 지속적으로 테스트하고 취약점을 패치합니다.
Azure AI Foundry에서의 배포 워크플로우
사용자는 두 가지 주요 경로를 통해 오픈 모델을 배포할 수 있습니다:
- Azure AI Foundry를 통해: 사용자는 Model Catalog의 Hugging Face Collection에서 모델을 선택하고, "Deploy"를 클릭한 뒤 VM, 인스턴스 수 및 배포 매개변수를 구성합니다.
- Hugging Face Hub를 통해: 사용자는 Hugging Face Hub의 모델 페이지에서 바로 "Deploy on Azure ML" 옵션을 선택할 수 있으며, 이는 Azure AI Machine Learning Studio 내 배포 옵션으로 리디렉션됩니다.
향후 로드맵 및 통합
Microsoft와 Hugging Face는 통합을 더욱 심화하기 위한 연속적인 업데이트 계획을 제시했습니다:
- Day-0 릴리스: 주요 제공업체의 새로운 모델이 Hugging Face Hub에 출시되는 같은 날 Azure AI Foundry에서 이용 가능하게 됩니다.
- 일일 트렌딩 업데이트: Hugging Face는 트렌딩 모델을 모니터링하여 매일 Azure AI Foundry에 적용합니다.
- 확장된 모달리티: 향후 업데이트에서는 비디오, 3D, 시계열, 단백질 접힘 등 추가 모달리티 및 도메인 특화 작업을 지원합니다.
- AI 에이전트: 이번 협업은 작고 효율적이며 특화된 오픈 모델을 활용해 안전한 AI 에이전트 및 애플리케이션 구축을 촉진하는 것을 목표로 합니다.
임원 관점
"오픈 소스는 투명성, 선택권, 커뮤니티를 핵심으로 AI가 더 빠르게 움직이는 방식입니다. 이번 협업은 그 모멘텀에 대한 우리의 약속을 나타냅니다. Hugging Face의 활기찬 모델 생태계와 Azure의 안전하고 엔터프라이즈급 인프라를 결합함으로써, 우리는 개발자에게 작업에 가장 적합한 모델을 선택할 자유를 제공하고, 조직이 안전하고 규모 있게 혁신할 수 있도록 돕습니다."
— Asha Sharma, Corporate Vice President at Microsoft
"우리는 기업이 Azure 계정 내에서 최고의 오픈 모델을 안전하게 배포하여 신뢰하고 검증할 수 있는 AI 애플리케이션을 구축하도록 돕고 있습니다."
— Clement Delangue, CEO and cofounder at Hugging Face