Hugging Face Open Responses 推論標準

Hugging Face は、従来の Chat Completion 形式に代わり、自治的なエージェントワークフローをよりよくサポートすることを目的としたオープンな推論標準である Open Responses を導入しました。この標準は OpenAI によって開始され、Hugging Face エコシステムの支援を受けており、開発者がさまざまなモデルプロバイダー間で推論、ツール使用、マルチステップのエージェントループを実装するための一貫した方法を提供します。

Open Responses の概要

Open Responses は、Responses API（2025 年 3 月に OpenAI が開始）のオープンソース拡張です。ターンベースの Chat Completion 形式と、長期にわたって推論・計画・行動する現代の AI エージェントの要件との不整合を解消することを目的としています。

Open Responses 標準の主な技術的特徴は次のとおりです:

  • Statelessness: 標準はデフォルトでステートレスですが、必要とするプロバイダー向けに暗号化された推論をサポートします。
  • Standardized Configuration: 標準化されたモデル構成パラメータを利用します。
  • Semantic Event Streaming: ストリーミングは、生テキストやオブジェクトの差分ではなく、セマンティックイベントの系列としてモデル化されます。
  • Extensibility: 標準は、個々のモデルプロバイダー固有の設定可能なパラメータを許容します。

クライアントとプロバイダー向けの技術実装

Open Responses は、プロバイダーとクライアント間で推論と状態変化がどのように通信されるかを形式化します。

推論の可視性

Open Responses は、モデルの思考プロセスへの透明性を高めるために、推論項目用の 3 つのオプションフィールドを導入します:

  1. content: 生の推論トレース。
  2. encrypted_content: プロバイダー固有の保護されたコンテンツ。
  3. summary: 生トレースのサニタイズされたバージョン。

以前の Responses API のバージョンでは主にサマリーと暗号化コンテンツが公開されていましたが、Open Responses はプロバイダーが生の推論ストリームを公開できるようにし、対応するクライアントは生の推論を処理できるようになります。

可観測性と状態

標準は、可観測性を向上させるために、よりリッチな状態変化とペイロードをサポートします。たとえば、ホストされた Code Interpreter は特定の interpreting 状態を出力でき、ユーザーやエージェントに長時間実行される操作の可視性を提供します。

ルーティングとオーケストレーション

Open Responses は Model Providers（推論を提供する側）と Routers（仲介オーケストレータ）を区別します。クライアントはリクエストでプロバイダーとプロバイダー固有の API オプションを指定でき、Routers は一貫したエンドポイントを使用して複数の上流プロバイダーに対するリクエストをオーケストレートできます。

ツール統合とエージェントループ

Open Responses は、内部ツールと外部ツールの両方をネイティブにサポートし、自治的タスク完了のための「エージェントループ」を形式化します。

ツールのカテゴリ

  • Internal Tools: モデルプロバイダーのインフラ内でホストされるツール（例: Google Drive 連携や OpenAI のファイル検索）。プロバイダーが実行と取得を管理し、開発者の介入は不要です。
  • External Tools: プロバイダーのシステム外で実装されるツール（例: MCP サーバーやクライアント側関数）。

エージェントループのプロセス

Open Responses は、推論・ツール呼び出し・応答生成の繰り返しサイクルを形式化します。プロセスは以下の手順で進行します:

  1. API がユーザーリクエストを受け取り、モデルからサンプリングします。
  2. モデルがツール呼び出しを出力した場合、API がそれを実行します（内部または外部）。
  3. ツール結果がモデルにフィードバックされ、推論が継続されます。
  4. モデルが完了を示すまでループが繰り返されます。

内部ホストツールの場合、プロバイダーがループ全体を管理するため、複雑なワークフロー（例: 文書検索、要約、メール作成）を単一リクエストで完了できます。開発者は max_tool_calls で反復回数を制限し、tool_choice で利用可能なツールを制約することでこの動作を制御できます。

利用可能性

Open Responses は現在、Hugging Face Inference Providers で利用可能で、早期アクセス版が Hugging Face Spaces にホストされています。

Sources