Gemini Decision 1 および Decisions API リリースノート
概要
Google は、新しい Gemini Decision 1 モデルを搭載した Gemini Decisions API を発表しました。このサービスは、高スループットかつ低レイテンシの分類タスク向けに設計されており、開発者はイエス/ノー、多肢選択、ルーブリックベースのスコアリングなど、最大 1,000 個の質問をマルチモーダル入力に対して一度のフォワードパスで評価できます。トークンごとの生成をバイパスすることで、この API は 150~250 ms のエンドツーエンドのレイテンシを実現しています。
主要な機能とアーキテクチャ
Gemini Decision 1 モデルはネイティブなマルチモーダルアーキテクチャに基づいて構築されており、テキスト、画像、音声、動画、PDF ドキュメントを同時に処理できます。テキストを出力する標準的な生成モデルとは異なり、Decisions API は定義されたカテゴリに対する確率と信頼度スコアを返します。
主な決定タイプは以下の通りです。
- noul (Yes/No): 条件が真である確率を推定します。
- choice (Multiple Choice): 2~255 個の選択肢から正規化された確率で選択します。
- score (Ordered Rubric): 事前に定義されたルーブリックに基づいて、連続的な重み付けスコアを割り当てます。
このモデルはトークンごとのデコードを行わないため、分類タスクにおいて非常に効率的です。ユーザーには入力トークン 100 万あたり $0.10 が課金され、出力トークンの料金は発生しないため、大量の意思決定ワークフローにとって費用対効果の高い代替手段となります。
業界での活用事例
Google は現在、低レイテンシのコントロールプレーンとして、いくつかの社内製品で Decisions API を活用しています。
- モデルルーティング: Gemini Notebook はこの API を使用してユーザーの意図を分類し、適切なモデル層にクエリをルーティングすることで、単純なタスクのレイテンシを削減しています。
- デザインの反復: デザインツール Stitch は、この API を使用して音声やタップ入力を処理し、ワイヤーフレームをリアルタイムで更新しています。
- 安全性とモデレーション: Google 検索は、厳格なレイテンシ制約の中で敵対的なコンテンツや行動を検出するためにこの API を採用しています。
コミュニティの洞察と議論
開発者からは、この API の独自のマルチモーダルサポートと、既存の意思決定モデルに対する競争力のあるパフォーマンスが注目されています。一部のユーザーからは、専門的な代替手段よりも価格が高いという指摘もありましたが、音声や動画を直接取り込める点は大きな差別化要因と見なされています。
"これは、音声、動画、PDF を実際に扱える最初の意思決定 AI のように見えます。なぜこれがどこでも強調されていないのか不思議です... 2% 高いスコアのためにこれを選ぶ人はいないでしょうが、PDF や通話に基づいて回答できることは画期的です。" — @handle
コミュニティの一部からは、専用の意思決定 API が必要なのか、それとも標準的な LLM を使用すべきなのかという疑問が提起されました。また、初期の「Jev」スタイルの意思決定 API の影響について言及がないことへの懸念を示す声もありました。技術的なユーザーからは、API が提供する信頼度スコアの重要性も指摘されており、モデルの信頼度が低い場合に人間によるレビューへ自動的にルーティングすることが可能になります。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch