DeepInfra と Hugging Face Inference Providers の統合

DeepInfra と Hugging Face Inference Providers の統合

Hugging Face は、Hugging Face Hub 上でサポートされている Inference Provider として DeepInfra を統合しました。この統合により、開発者は Hugging Face のインフラストラクチャとクライアント SDK を通じて、DeepInfra のサーバーレス AI 推論プラットフォームおよび 100 種類以上のモデルのカタログに直接アクセスできるようになります。

サーバーレス 推論機能

DeepInfra は、幅広い AI 機能に対してコスト効率の良いサーバーレス推論を提供します。プラットフォームはテキストから画像、テキストからビデオ、および埋め込みなどのさまざまなモデルタイプをサポートしていますが、Hugging Face との初期統合では 会話およびテキスト生成タスク に焦点を当てています。

この統合を通じて利用可能なオープンウェイト LLM は次のとおりです：

  • DeepSeek V4
  • Kimi-K2.6
  • GLM-5.1

埋め込み、テキストからビデオ、テキストから画像などの追加タスクのサポートは、今後リリースされる予定です。

統合とワークフロー

ユーザーは、Hugging Face のウェブサイト UI またはクライアント SDK を通じて、DeepInfra ホスト済みモデルにアクセスできます。

ウェブサイト UI 設定

ユーザーアカウントの設定で、ユーザーは次の 2 つの方法で推論体験を管理できます：

  1. カスタム API キー: ユーザーはプロバイダーごとに独自の API キーを設定できます。この場合、リクエストはプロバイダーに直接送信されます。
  2. プロバイダーの優先順位: ユーザーは優先順位に応じてプロバイダーを並べ替えることができます。これにより、モデルページ上のウィジェットとコードスニペットの順序が影響を受けます。

リクエスト ルーティング モード

Inference Provider を呼び出すには、次の 2 つの異なるモードがあります：

  • カスタム キー モード: ユーザーのプロバイダー固有の API キーを使用して、推論プロバイダーに直接コールが送信されます。
  • HF によるルーティング モード: リクエストは Hugging Face を経由してルーティングされます。ユーザーはプロバイダー固有のトークンが必要なく、料金は Hugging Face アカウントに直接適用されます。

クライアント SDK サポート

DeepInfra は、Python 向けの huggingface_hub（バージョン 1.11.2 以上）および JavaScript 向けの @huggingface/inference を介してアクセスできます。この統合は、OpenClaw、Hermes Agents、OpenCode、Pi などのさまざまな Agent Harness も含み、これらのツールに追加のグルー コードなしでモデルをプラグインできるようにします。

課金とクレジット

課金は使用するルーティング方法によって異なります：

  • 直接リクエスト: ユーザーは、プロバイダー アカウント（例：DeepInfra）を使用して、推論プロバイダーから請求されます。
  • ルーティングされたリクエスト: ユーザーは Hugging Face を通じて標準のプロバイダー API 料金を支払います。Hugging Face はこれらのコストにマークアップを加えません。

Hugging Face PRO の加入者は、月額 2 ドル相当の Inference クレジットを受け取り、さまざまなプロバイダーで使用できます。サインイン済みの無料ユーザーには、少量の無料推論クォータが提供されます。

技術的実装例

Python を使用して DeepInfra ホスト済みモデル（たとえば DeepSeek V4 Pro）を利用するには、OpenAI 互換クライアントを Hugging Face ルーターとともに使用できます：

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://router.huggingface.co/v1",
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Pro:deepinfra",
    messages=[
        {
            "role": "user",
            "content": "Write a Python function that returns the nth Fibonacci number using memoization."n        }
    ],
)

print(completion.choices[0].message)

Sources