Hugging Face コース Part 2 とコミュニティイベントの開始

Hugging Face は 2021 年 11 月 15 日に Hugging Face コースの Part 2 をリリースし、技術トレーニングと実践的なプロジェクト体験を提供するために、同時にコミュニティイベントを開催しました。このリリースにより、カリキュラムは基本的な学習済みモデルの使用から、幅広い高度な自然言語処理 (NLP) タスクとエコシステムツールへと拡大されます。

コース Part 2 における拡張された NLP カリキュラム

Hugging Face コースの Part 2 は、学習済みモデルの使用、テキスト分類のためのファインチューニング、および Model Hub へのアップロードを扱った Part 1 の導入資料から、より広範な一般的な NLP タスクへと焦点を移しています。新しいコンテンツは、具体的に以下をカバーしています：

• Token Classification
• Language Modeling (causal と masked の両方のバリエーションを含む)
• Translation
• Summarization
• Question Answering

さらに、コースでは、datasets と tokenizers ライブラリに特に重点を置いて、Hugging Face エコシステムへのより深い技術的な掘り下げを提供します。

コミュニティイベントの構成と認定

コースの開始をサポートするために、Hugging Face は、技術プレゼンテーションに続いてチームベースのプロジェクトを行う 2 日間のイベントを企画しました。参加者は、NLP タスクでモデルをファインチューニングし、ライブデモを作成する課題を与えられました。

参加者への主なインセンティブには以下が含まれます：

• ポートフォリオの開発: プロフェッショナルな ML ポートフォリオ向けのライブデモの作成。
• 認定: デモを正常に構築できた参加者に修了証が授与されました。
• コンピューティング・スポンサーシップ: AWS が Amazon SageMaker を通じて無料のコンピューティング・リソースを提供することで、イベントをスポンサーしました。

技術プログラム：Day 1 - Transformers とトレーニング

イベントの初日は、Transformer モデルのハイレベルな概念の概要と、それらをトレーニングまたはファインチューニングするために使用される手法に焦点を当てました。スピーカーのラインナップは以下の通りです：

• Thomas Wolf (Hugging Face): 転移学習と transformers ライブラリの起源について議論しました。
• Margaret Mitchell: 機械学習開発における価値観と倫理について発表しました。
• Jakob Uszkoreit (Inceptive): 現在のモデルの境界と潜在的な失敗について探求しました。
• Jay Alammar (Cohere): Transformer アーキテクチャへの視覚的な導入を提供しました。
• Matthew Watson と Chen Qian (Keras): Keras を使用した NLP ワークフローをカバーしました。
• Mark Saroufim (PyTorch): PyTorch でモデルをトレーニングするプロセスを詳細に説明しました。

技術プログラム：Day 2 - エコシステムツール

2 日目は、Hugging Face、Gradio、および AWS のツールの実践的な適用に焦点を当てました。セッションでは、以下の技術領域をカバーしています：

• トレーニングの最適化: Lewis Tunstall は、トレーニングを簡素化するための Trainer API について議論し、Sylvain Gugger は PyTorch のトレーニングループを最適化するための accelerate について発表しました。
• フレームワークの統合: Matthew Carrigan は、transformers と datasets のための新しい TensorFlow の機能を詳細に説明しました。
• コラボレーションとデプロイメント: Lysandre Debut は、プロジェクト共有のための Hugging Face Hub をカバーし、Merve Noyan はモデルデモのための Hugging Face Spaces の使用方法を実演しました。
• 前処理: Lucile Saulnier は、transformers と tokenizers を使用してカスタムトークナイザーを作成する方法についてガイダンスを提供しました。
• アプリケーション開発: Abubakar Abid (Gradio) は、迅速な ML アプリケーション構築について議論し、Mathieu Desvé 和 Philipp Schmid (AWS/Hugging Face) は、ML を身近なものにし、Amazon SageMaker を通じてトレーニングを管理する方法について発表しました。