OVHcloud 在 Hugging Face 推理提供者

概覽

OVHcloud 已被添加為 Hugging Face Hub 支援的推理提供者，允許使用者直接從模型頁面、HF 網站以及官方 Python 和 JavaScript SDK 透過 OVHcloud AI Endpoints 執行模型。

運作方式

網站 UI

在 HF 帳戶設定中，使用者可以添加自己的 OVHcloud API 金鑰以進行直接呼叫，或將欄位留空以讓請求透過 Hugging Face 路由；他們也可以根據偏好重新排序提供者，這會影響模型頁面上顯示的小工具和程式碼片段。

SDK 使用方式

huggingface_hub Python 套件（版本 >= 1.1.5）和 @huggingface/inference JavaScript 套件接受帶有 :ovhcloud 後綴的模型標識符；驗證可以使用 HF 權杖進行 HF 路由呼叫，或使用 OVHcloud API 金鑰進行直接提供者呼叫。

計費與定價

使用個人 OVHcloud API 金鑰時，OVHcloud 會直接向使用者收費；透過 Hugging Face 進行驗證時，使用者將被收取提供者的標準費率，且 HF 不會加收額外加成。Hugging Face PRO 訂閱者每月可獲得 2 美元的推理點數，可跨提供者使用。

技術能力

OVHcloud AI Endpoints 透過完全受管理的無伺服器 API 提供對 gpt-oss、Qwen3、DeepSeek R1 和 Llama 等前沿模型的存取。該服務運行於歐洲資料中心基礎設施上，確保歐洲使用者的資料主權和低延遲。它支援結構化輸出、函式呼叫以及文字和圖像輸入的多模態處理。首個 token 延遲低於 200 ms，平台同時處理文字生成和嵌入工作負載。

回饋與後續步驟

Hugging Face 透過專用討論空間 https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49 邀請使用者對 OVHcloud 整合提供意見.}