Hugging FaceがPublic AIを推論プロバイダーとして統合
Hugging FaceはPublic AIをHugging Face Hub上のサポートされている推論プロバイダーとして統合しました。この統合により、ユーザーはSwiss AI InitiativeやAI Singaporeなどの公共・主権AIモデルに、モデルページから直接サーバーレス推論で、またクライアントSDKを通じてアクセスできるようになります。
Public AIのインフラストラクチャとミッション
Public AIは非営利のオープンソースプロジェクトで、公共AIモデル構築者を支援する推論ユーティリティを提供しています。そのインフラはレジリエンスと分散アクセスを念頭に設計されています:
- バックエンド: ユーティリティはvLLMを使用したバックエンドを利用し、OpenAI互換APIを公開するサーバーを備えています。
- デプロイメント: 計算リソースは国内外のパートナーから寄贈されたクラスターに展開されています。
- ルーティング: グローバルなロードバランシング層が、ホスト国に関係なく最も効率的な計算リソースへリクエストを透過的にルーティングします。
- 資金調達: 現在、無料の公共アクセスは広告補助金と寄贈されたGPU時間で支えられており、長期的な安定性は機関や国家からの貢献によって確保されることが想定されています。
統合と利用ワークフロー
ユーザーはHugging Face HubのウェブUIまたは公式クライアントSDKを通じてPublic AIモデルにアクセスできます。システムは主に2つの認証およびルーティングモードをサポートしています:
ウェブUI設定
ユーザーはアカウント設定で以下のように好みを管理できます:
- APIキーの設定: ユーザーは特定のプロバイダー用に独自のAPIキーを提供できます。カスタムキーが設定されていない場合、リクエストはHugging Face経由でルーティングされます。
- 順序の優先設定: ユーザーはモデルページのウィジェットやコードスニペットで、どのプロバイダーが最初に表示されるかを優先順位付けできます。
ルーティングモード
- カスタムキー: リクエストはユーザーのプロバイダー固有APIキーを使用して、推論プロバイダーへ直接送信されます。
- HF経由: リクエストはHugging Faceトークンで認証され、料金はプロバイダーのアカウントではなくHugging Faceのアカウントに課金されます。
SDKによる技術実装
Public AIはPythonおよびJavaScript SDKに統合されています。Public AIをプロバイダーとして使用するには、huggingface_hub Pythonライブラリのバージョンが0.34.6以上である必要があります。
Python例
huggingface_hub の InferenceClient を使用して、ユーザーは provider="publicai" を指定し、api_key(ルーティング用のHugging FaceトークンまたはPublic AIキーのいずれか)を提供できます。
JavaScript例
@huggingface/inference ライブラリを使用し、chatCompletion メソッド内で provider パラメータを渡すことで、リクエストをPublic AIへルーティングします。
請求とクレジット
2025年9月17日現在、Hugging Face Inference Providers経由でPublic AI推論ユーティリティを利用することは無料ですが、価格や利用可能性は変更される可能性があります。
プラットフォーム上の他のプロバイダーについては、請求は以下のルールに従います:
- 直接リクエスト: ユーザーがプロバイダー固有のAPIキーを使用する場合、料金はプロバイダーから請求されます。
- ルーティングリクエスト: ユーザーはHugging Faceを通じて標準のプロバイダーAPI料金を支払い、追加のマークアップはありません。
- PROプラン特典: Hugging Face PROユーザーは、月額$2相当の推論クレジットを受け取り、これをさまざまなプロバイダーで利用できます。