Hugging Face 添加 Hyperbolic、Nebius AI Studio 和 Novita 作为 Serverless 推理提供商

Hugging Face 已将 Hyperbolic、Nebius AI Studio 和 Novita 添加到其 Serverless 推理提供商的生态系统中。此次扩展增加了可直接在 Hub 的模型页面和通过官方客户端 SDK 使用的服务器less 推理模型的多样性。

模型可用性扩展

Hyperbolic、Nebius AI Studio 和 Novita 的集成使得可以访问多种高需求模型，包括 DeepSeek-R1 和 FLUX.1。这些新合作伙伴加入了现有的提供商，如 Together AI、Sambanova、Replicate、fal 和 Fireworks.ai。

集成和使用工作流

用户可以通过两个主要界面访问这些推理提供商：Hugging Face 网站 UI 和官方客户端 SDK。

网站 UI 配置

在用户账户设置中，Hugging Face 允许用户：

  • 管理 API 密钥：用户可以为特定提供商设置自定义 API 密钥。如果未提供自定义密钥，请求将通过 Hugging Face 路由。
  • 偏好顺序：用户可以优先选择提供商，以决定它们在模型页面小部件和代码片段中出现的顺序。

客户端 SDK 实现

Serverless 推理通过 huggingface_hub Python 库和 @huggingface/inference JavaScript 库得到支持。

在 Python 中，用户可以在 InferenceClient 中指定 provider 参数来在提供商之间切换（例如 provider="hyperbolic" 或 provider="nebius"），而其余代码保持不变。此功能的官方支持计划在 huggingface_hub 的 v0.29.0 版本中发布。

在 JavaScript 中，provider 参数通过 HfInference 客户端的 chatCompletion 方法传递以指定后端提供商（例如 provider: "novita"）。

计费和身份验证模式

有两种不同的模式用于执行推理调用，这决定了计费的处理方式：

  1. 自定义密钥模式：调用使用提供商自己的 API 密钥直接发送到推理提供商。计费完全由相应提供商的账户处理。
  2. 路由模式：调用通过 Hugging Face Hub 进行身份验证。费用直接应用于 Hugging Face 账户，按提供商的标准 API 费率计算，且不额外加收 Hugging Face 的费用。

订阅福利

Hugging Face PRO 计划的用户每月可获得价值 2 美元的推理积分，可用于不同的提供商。已登录的免费用户将获得一定量的免费推理配额。

Sources