Hugging Face 新增 Hyperbolic、Nebius AI Studio 與 Novita 作為無伺服器推理提供者

Hugging Face 已將 Hyperbolic、Nebius AI Studio 與 Novita 加入其無伺服器推理提供者的生態系統。此擴充增加了可直接在 Hub 的模型頁面及透過官方用戶端 SDK 使用的伺服器推理模型種類。

模型可用性擴充

Hyperbolic、Nebius AI Studio 與 Novita 的整合使得可存取多種高需求模型,包括 DeepSeek-R1 和 FLUX.1。這些新夥伴加入了現有的提供者,如 Together AI、Sambanova、Replicate、fal 和 Fireworks.ai。

整合與使用工作流程

使用者可以透過兩個主要介面存取這些推理提供者:Hugging Face 網站 UI 和官方用戶端 SDK。

網站 UI 設定

在使用者帳戶設定中,Hugging Face 允許使用者:

  • 管理 API 金鑰:使用者可以為特定提供者設定自訂 API 金鑰。如果未提供自訂金鑰,請求將透過 Hugging Face 路由。
  • 偏好順序:使用者可以設定提供者的優先順序,以決定它們在模型頁面小工具和程式碼片段中出現的順序。

用戶端 SDK 實作

無伺服器推理透過 huggingface_hub Python 函式庫和 @huggingface/inference JavaScript 函式庫支援。

在 Python 中,使用者可以在 InferenceClient 內指定 provider 引數來切換提供者(例如 `provider=

Sources