Hugging Face와 Amazon SageMaker Studio 통합

Hugging Face와 Amazon SageMaker Studio 통합

Hugging Face와 Amazon SageMaker AI는 딥링크 통합을 출시했으며, 이를 통해 개발자는 Hugging Face에서 모델을 탐색한 후 단일 선택만으로 SageMaker Studio에서 직접 실험으로 전환할 수 있습니다. 이 통합은 도메인, IAM 권한 및 GPU 할당량 구성의 수동적인 마찰을 제거하여 오픈 모델 탐색에서 엔터프라이즈 배포까지 직접적인 경로를 제공합니다.

딥링크를 통한 간소화된 워크플로우

개발자는 이제 지원되는 Hugging Face 모델 페이지에서 액션 버튼을 사용하여 AWS 환경에 들어간 후 모델을 다시 검색할 필요 없이 특정 SageMaker Studio 워크플로우를 시작할 수 있습니다. 이러한 딥링크는 플랫폼 간에 모델 컨텍스트를 유지합니다:

  • Customize on SageMaker AI: 선택된 모델이 사전 로드된 상태로 스튜디오의 모델 커스터마이징 페이지를 직접 열어 파인튜닝을 진행합니다.
  • Deploy on SageMaker AI: 모델이 엔드포인트 배포를 위해 사전 구성된 상태로 스튜디오의 배포 페이지를 직접 엽니다.

자동화된 환경 및 권한 설정

수동 구성을 없애기 위해, 이 통합을 통해 생성된 새로운 SageMaker Studio 환경은 사전 구성된 권한을 가진 도메인을 자동으로 프로비저닝합니다.

관리형 권한 정책

새로운 관리형 정책 AmazonSageMakerModelCustomizationCoreAccess가 환경에 자동으로 연결됩니다. 이 정책은 서버리스 모델 커스터마이징 작업에 필요한 권한을 제공하며, 포함 내용은 다음과 같습니다:

  • 감독된 파인튜닝 (SFT)
  • 직접 선호 최적화 (DPO)
  • 검증 가능한 보상을 통한 강화 학습 (RLVR)
  • AI 피드백 기반 강화 학습 (RLAIF)

이 작업들은 SageMaker AI 또는 Amazon Bedrock 엔드포인트에 배포될 수 있습니다. 기존 Studio 환경을 보유한 사용자의 경우, 시스템은 실행 가능한 메시지와 문서 링크를 제공하여 이러한 권한을 수동으로 추가하도록 돕습니다.

통합된 GPU 할당량 가시성

SageMaker Studio는 이제 인스턴스 선택 목록 내에서 GPU 할당량 가용성을 직접 표시하여 별도의 서비스 할당량 페이지로 이동할 필요가 없습니다. 사용자는 계정 한도 내에서 G5 및 G6 GPU 인스턴스 유형의 가용성을 즉시 확인할 수 있습니다. 한도 증액이 필요할 경우, UI는 해당 인스턴스 유형에 대한 서비스 할당량 페이지로 직접 리디렉션을 제공합니다.

구현 단계별 안내

Hugging Face에서 작동 중인 SageMaker 엔드포인트로 이동하는 과정은 네 가지 주요 단계로 구성됩니다:

  1. Discover and Select: 지원되는 Hugging Face 모델 페이지에서 사용자는 "Deploy on SageMaker AI" 또는 "Customize on SageMaker AI" 중 하나를 선택합니다.
  2. Sign-in: 사용자는 AWS Management Console을 통해 인증합니다. 이미 활성 세션이 존재하는 경우 이 단계는 건너뜁니다.
  3. Land in Studio: 사용자는 모델이 사전 선택된 상태로 SageMaker Studio의 사전 구성된 모델 커스터마이징 또는 배포 페이지에 도착합니다.
  4. Test: 엔드포인트가 배포되거나 모델이 커스터마이징된 후, Studio 엔드포인트 테스트 인터페이스를 사용하여 추론을 직접 테스트할 수 있습니다.

"Hugging Face의 오픈 모델에서 단 한 번의 클릭으로 바로 SageMaker Studio로 이동한 뒤, 별도의 설정 없이 자체 AWS 환경 내에서 파인튜닝하거나 배포하는 것은 오픈 모델이 그동안 부족했던 경험입니다," 라고 Arcee AI의 설립자이자 CEO인 Mark McQuade가 말했습니다.

Sources