Hugging Face 코스 파트 2 및 커뮤니티 이벤트 출시

Hugging Face는 2021년 11월 15일에 Hugging Face 코스 파트 2를 출시했으며, 기술 교육과 실습 프로젝트 경험을 제공하기 위해 동시에 커뮤니티 이벤트를 개최했습니다. 이번 출시는 기본 사전 학습된 모델 사용법에서 광범위하고 고급 자연어 처리(NLP) 작업 및 생태계 도구로 커리큘럼을 확장합니다.

코스 파트 2의 확장된 NLP 커리큘럼

Hugging Face 코스 파트 2는 사전 학습된 모델 사용, 텍스트 분류를 위한 미세 조정, Model Hub 업로드 등을 다루었던 파트 1의 입문 자료에서 벗어나, 더 광범위한 일반적인 NLP 작업으로 초점을 전환합니다. 새로운 콘텐츠는 구체적으로 다음을 다룹니다:

• Token Classification
• Language Modeling (causal 및 masked 변형 모두 포함)
• Translation
• Summarization
• Question Answering

또한, 코스는 datasets 및 tokenizers 라이브러리에 특별히 중점을 두어 Hugging Face 생태계에 대한 더 깊은 기술적 탐구를 제공합니다.

커뮤니티 이벤트 구조 및 인증

코스 출시를 지원하기 위해, Hugging Face는 기술 발표에 이어 팀 기반 프로젝트가 진행되는 이틀간의 이벤트를 조직했습니다. 참가자들은 NLP 작업에 대해 모델을 미세 조정하고 라이브 데모를 제작하는 과제를 부여받았습니다.

참가자를 위한 주요 혜택은 다음과 같습니다:

• Portfolio Development: 전문적인 ML 포트폴리오를 위한 라이브 데모 제작.
• Certification: 데모를 성공적으로 구축한 참가자에게 수료증이 수여됩니다.
• Compute Sponsorship: AWS는 Amazon SageMaker를 통해 무료 컴퓨팅 리소스를 제공함으로써 이벤트를 후원했습니다.

기술 프로그램: 1일차 - Transformers 및 학습

이벤트의 첫째 날은 Transformer 모델에 대한 고수준의 개념적 개요와 이를 학습시키거나 미세 조정하는 데 사용되는 방법론에 초점을 맞췄습니다. 발표자 명단은 다음과 같습니다:

• Thomas Wolf (Hugging Face): 전이 학습과 transformers 라이브러리의 기원을 논의했습니다.
• Margaret Mitchell: 머신러닝 개발에서의 가치와 윤리에 대해 발표했습니다.
• Jakob Uszkoreit (Inceptive): 현재 모델의 경계와 잠재적 실패 사례를 탐구했습니다.
• Jay Alammar (Cohere): Transformer 아키텍처에 대한 시각적 소개를 제공했습니다.
• Matthew Watson and Chen Qian (Keras): Keras를 사용한 NLP 워크플로우를 다루었습니다.
• Mark Saroufim (PyTorch): PyTorch를 사용하여 모델을 학습시키는 과정을 상세히 설명했습니다.

기술 프로그램: 2일차 - 생태계 도구

둘째 날은 Hugging Face, Gradio, AWS의 도구들을 실무에 적용하는 데 초점을 맞췄습니다. 세션은 다음 기술 영역을 다룹니다:

• Training Optimization: Lewis Tunstall은 간소화된 학습을 위한 Trainer API를 논의했고, Sylvain Gugger는 PyTorch 학습 루프를 최적화하기 위한 accelerate에 대해 발표했습니다.
• Framework Integration: Matthew Carrigan은 transformers 및 datasets를 위한 새로운 TensorFlow 기능을 상세히 설명했습니다.
• Collaboration and Deployment: Lysandre Debut은 프로젝트 공유를 위한 Hugging Face Hub를 다루었고, Merve Noyan은 모델 데모를 위한 Hugging Face Spaces의 사용법을 시연했습니다.
• Preprocessing: Lucile Saulnier는 transformers 및 tokenizers를 사용하여 커스텀 토크나이저를 만드는 방법에 대한 가이드를 제공했습니다.
• Application Development: Abubakar Abid (Gradio)는 신속한 ML 애플리케이션 구축을 대해 논의했고, Mathieu Desvé and Philipp Schmid (AWS/Hugging Face)는 ML의 접근성을 높이고 Amazon SageMaker를 통해 학습을 관리하는 방법에 대해 발표했습니다.