Habana Labs と Hugging Face のトランスフォーマーモデル訓練に関するパートナーシップ

Habana Labs と Hugging Face は提携し、Habana の SynapseAI ソフトウェアスイートを Hugging Face Optimum オープンソースライブラリに統合しました。このコラボレーションにより、データサイエンティストや機械学習エンジニアは、コード変更を最小限に抑えて Habana Gaudi プロセッサ上でトランスフォーマーモデルの訓練を加速でき、訓練コストの削減と生産性の向上が実現します。

Habana Gaudi によるハードウェアアクセラレーション

Habana Gaudi 訓練ソリューションは、高効率で特定用途向けのディープラーニング処理を提供するよう設計されています。これらのソリューションは Amazon EC2 DL1 インスタンスと Supermicro の X12 Gaudi AI Training Server を支えています。

  • 価格/性能: Gaudi は、同等の訓練ソリューションと比較して最大 40% 低い価格/性能比を実現します。
  • スケーラビリティ: 各 Gaudi プロセッサは 10 本の 100 ギガビット Ethernet ポートを統合しており、システムは単一プロセッサから数千台の Gaudi へと効率的にスケールできます。
  • フレームワークサポート: SynapseAI ソフトウェアスイートは Gaudi の性能に最適化されており、TensorFlow と PyTorch の両フレームワークをサポートします。特にコンピュータビジョンと自然言語処理 (NLP) アプリケーションを対象としています。

Hugging Face Optimum との統合

Hugging Face ハードウェアパートナープログラムを通じて、Habana SynapseAI スイートが Optimum ライブラリに統合されました。この統合により、ユーザーは数行のコードだけで Habana Gaudi のハードウェアアクセラレーションをトランスフォーマーモデルに活用できます。

このパートナーシップは、Habana Gaudi 向けに最適化されたトランスフォーマーモデルのライブラリを拡充し、以下を含むさまざまな領域で高品質な訓練を促進することを目的としています。

  • 自然言語処理 (NLP)
  • コンピュータビジョン
  • 音声

エグゼクティブの見解

「私たちは Hugging Face とその多数のオープンソース開発者と提携し、Gaudi 訓練プラットフォームの効率性、使いやすさ、スケーラビリティの恩恵を受けるトランスフォーマーモデルへの需要増加に対応できることを嬉しく思います」 と、Habana Labs のソフトウェア製品管理責任者 Sree Ganesan は述べました。

「Habana Gaudi はディープラーニングモデル訓練に新たなレベルの効率性をもたらし、Optimum を通じてコード変更を最小限に抑えてトランスフォーマーユーザーがこの性能を簡単に利用できることに大変興奮しています」 と、Hugging Face のプロダクトディレクター Jeff Boudier は述べました。

Sources