Habana Labs 與 Hugging Face 合作加速 Transformer 模型訓練

Habana Labs 與 Hugging Face 合作，將 Habana 的 SynapseAI 軟體套件與 Hugging Face Optimum 開源函式庫整合。此合作讓資料科學家與機器學習工程師能在 Habana Gaudi 處理器上，以最小的程式碼變更加速 Transformer 模型的訓練，降低訓練成本並提升生產力。

透過 Habana Gaudi 的硬體加速

Habana Gaudi 訓練解決方案旨在提供高效能、專為深度學習設計的處理。這些解決方案為 Amazon EC2 DL1 執行個體與 Supermicro 的 X12 Gaudi AI Training Server 提供動力。

  • Price/Performance: Gaudi 的價格/效能比可比的訓練解決方案低最高 40%。
  • Scalability: 每顆 Gaudi 處理器整合了十個 100 Gigabit 乙太網路埠，使系統能有效地從單一處理器擴展至數千顆 Gaudi。
  • Framework Support: SynapseAI 軟體套件針對 Gaudi 效能進行最佳化，支援 TensorFlow 與 PyTorch 兩大框架，特別針對電腦視覺與自然語言處理 (NLP) 應用。

與 Hugging Face Optimum 的整合

透過 Hugging Face 硬體合作夥伴計畫，Habana SynapseAI 套件已整合至 Optimum 函式庫。此整合讓使用者僅需幾行程式碼，即可利用 Habana Gaudi 的硬體加速來訓練 Transformer 模型。

此合作旨在擴充針對 Habana Gaudi 最佳化的 Transformer 模型庫，促進各領域的高品質訓練，包含：

  • 自然語言處理 (NLP)
  • 電腦視覺
  • 語音

執行層觀點

雙方的產業領袖強調此合作的效率與可及性：

"我們很高興能與 Hugging Face 以及其眾多開源開發者合作，以因應日益增長的需求，提供能從 Gaudi 訓練平台的效率、易用性與可擴展性中受益的 Transformer 模型"，said Sree Ganesan, head of software product management, Habana Labs.

"Habana Gaudi 為深度學習模型訓練帶來全新層次的效率，我們非常興奮能透過 Optimum 以最小的程式碼變更，讓 Transformer 使用者輕鬆取得此效能"，said Jeff Boudier, product director at Hugging Face.

Sources