Hugging Face 与 IBM 在 watsonx.ai 的合作

Hugging Face 与 IBM 合作,将 Hugging Face 的开源库和模型集成到 watsonx.ai 中,watsonx.ai 是一个企业 AI 工作室,旨在训练、验证、调优和部署传统机器学习以及生成式 AI 能力。此合作使企业用户能够在受管环境中利用庞大的预训练模型生态系统和社区驱动的工具,支持云端和本地部署。

企业 AI 需求与标准化的作用

企业 AI 的采用是由对针对特定公司数据和计算预算的专用模型的需求驱动的,而不是单一的通用模型。大型组织通常需要在各业务单元部署数百甚至数千个模型,这就需要一种标准化的训练和部署方法,以避免为每个项目从头构建基础设施。

标准化由以下三大驱动因素促进:

  • 模型架构:Transformer 架构已成为自然语言处理、计算机视觉和音频/语音等深度学习应用的事实标准。
  • 预训练模型:访问数十万的预训练模型使开发者能够快速筛选出有前景的候选模型。
  • 开源库:社区驱动的工具只需一行代码即可下载并实验模型,确保从本地开发到生产环境的一致性。

watsonx.ai 技术集成

watsonx.ai 基于 RedHat OpenShift 构建,可在云端和本地使用。这为遵守严格合规规则或希望将机密数据保留在自有基础设施上的组织提供了关键的替代方案,免去了从零构建内部 ML 平台的需求。

在技术层面,watsonx.ai 集成了多个核心 Hugging Face 开源库,以驱动其底层功能:

  • transformers:用于下载和使用预训练模型的主要库。
  • accelerate:用于优化硬件和训练性能。
  • e
  • Text Generation Inference (TGI):用于优化模型部署的服务器。

对 AI 构建者的战略意义

此合作使 Hugging Face 的客户能够在 IBM 平台内原生使用其模型和数据集。此外,IBM 正在开发自己的大型语言模型(LLMs)集合,这些模型将开源并在 Hugging Face Hub 上提供,进一步扩大了面向更广泛 AI 社区的基础模型池。

Sources