Hugging Faceは、Hyperbolic、Nebius AI Studio、Novitaをサーバーレス推論プロバイダーとして追加

Hugging Faceは、Hyperbolic、Nebius AI Studio、Novitaをサーバーレス推論プロバイダーのエコシステムに追加しました。この拡張により、Hubのモデルページおよび公式クライアントSDKを通じて直接利用可能なサーバーレス推論モデルの種類が増加します。

モデルの利用可能性の拡張

Hyperbolic、Nebius AI Studio、Novitaの統合により、DeepSeek-R1やFLUX.1などのいくつかの高需要モデルへのアクセスが可能になります。これらの新しいパートナーは、Together AI、Sambanova、Replicate、fal、Fireworks.aiなどの既存のプロバイダーに加わります。

統合と使用ワークフロー

ユーザーは、これらの推論プロバイダーに2つの主要なインターフェースを通じてアクセスできます：Hugging FaceのウェブサイトUIおよび公式クライアントSDK。

ウェブサイトUIの設定

ユーザーアカウントの設定において、Hugging Faceはユーザーに以下を許可します：

  • APIキーの管理: ユーザーは特定のプロバイダー向けにカスタムAPIキーを設定できます。カスタムキーが提供されない場合、リクエストはHugging Faceを経由してルーティングされます。
  • 優先順位の設定: ユーザーはプロバイダーの優先順位を設定し、モデルページのウィジェットやコードスニペットでの表示順序を決定できます。

クライアントSDKの実装

サーバーレス推論は、huggingface_hub Pythonライブラリおよび@huggingface/inference JavaScriptライブラリを介してサポートされます。

Pythonでは、ユーザーはInferenceClient内のprovider引数を指定することで（例: provider="hyperbolic"またはprovider="nebius"）プロバイダー間を切り替えることができ、コードの他の部分は同じままです。この機能の公式サポートは、huggingface_hubのバージョンv0.29.0でリリースされる予定です。

JavaScriptでは、HfInferenceクライアントのchatCompletionメソッド内にproviderパラメータを渡すことで（例: provider: "novita"）バックエンドプロバイダーを指定します。

課金と認証モード

推論コールを実行するには2つの異なるモードがあり、これにより課金の処理方法が決まります：

  1. カスタムキーモード: プロバイダー独自のAPIキーを使用して、推論コールは直接プロバイダーに送信されます。課金は対応するプロバイダーのアカウントによって完全に処理されます。
  2. ルーテッドモード: Hugging Face Hubを介して認証されます。料金は、Hugging Faceからの追加マークアップなしで標準のプロバイダーAPIレートで、Hugging Faceアカウントに直接適用されます。

サブスクリプションの特典

Hugging FaceのPROプランのユーザーは、毎月2ドル相当の推論クレジットを受け取り、これはさまざまなプロバイダーで使用できます。サインイン済みの無料ユーザーには、少量の無料推論クォータが提供されます。

Sources