Hugging Face Spaces와 Gradio 통합

Hugging Face는 Gradio를 Hugging Face Spaces에 통합하여 개발자가 머신러닝 모델 데모를 호스팅하고 선보일 수 있는 간소화된 방법을 제공합니다. 이 통합을 통해 사용자는 최소한의 코드로 Hugging Face Hub에 호스팅된 모델에 대한 대화형 인터페이스를 생성할 수 있으며, Inference API를 활용하여 원활한 배포가 가능합니다.

Hub 통합을 통한 원활한 모델 시연

개발자는 모델의 repository ID, 제목, 설명, 그리고 예시 입력을 지정하는 Gradio Interface를 정의함으로써 Hugging Face Hub의 모델에 대한 대격형 인터페이스를 생성할 수 있습니다. Interface가 정의되면 .launch()를 호출하여 데모를 배포합니다.

커뮤니티를 위해 이러한 데모를 호스팅하려면 사용자는 Hugging Face Spaces에 repository를 생성하고 SDK로 Gradio를 선택해야 합니다. 필요한 코드가 포함된 app.py 파일을 추가하면 애플리케이션이 몇 초 내에 작동하기 시작합니다. 이 프로세스는 Transformers, spaCy, SpeechBrain, Asteroid를 포함한 다양한 프레임워크를를 지원하며, image-to-text, speech-to-text, text-to-speech와 같은 다양한 모델 유형과 호환됩니다.

커스텀 모델 체크포인트 호스팅

Inference API가 지원되지 않는 모델의 경우에도 Hugging Face Spaces를 통해 데모를 호스팅할 수 있습니다. 사용자는 특정 모델 추론 로직을 Gradio Interface 내에 래핑하여 Spaces에 직접 배포할 수 있으며, 이를 통해 API 지원 여부와 관계없이 커스텀 모델 체크포인트를 서비스할 수 있습니다.

Gradio Series를 이용한 모델 구성

Gradio Series를 사용하면 여러 모델을 하나의 파이프라인으로 결합할 수 있습니다. 이를 통해 한 모델의 출력이 다음 모델의 입력으로 사용될 수 있습니다. 예를 들어, 프랑스어 이야기 생성기는 프랑스어-영어 번역 모델, GPT-2 이야기 생성기, 그리고 영어-프랑스어 번역 모델을 순차적으로 연결하여 만들 수 있습니다.

Spaces에서의 배포 워크플로우

Hugging Face Spaces에 데모를 배포하는 것은 간단한 업로드 프로세스를 통해 관리됩니다. 새로운 Space를 생성한 후, 사용자는 드래그 앤 드롭 인터페이스를 사용하거나 Git을 통해 데모 파일을 업로드할 수 있어, ML 프로젝트를 커뮤니티와 공유하는 과정이 접근하기 쉽고 효율적입니다.

Sources

관련

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch