Claude 3.7 Sonnet Extended Thinking リリース

TL;DR

Anthropic は Claude 3.7 Sonnet をリリースし、ユーザーが「拡張思考モード」をオン・オフできるようにすることで、複雑なタスクにかける認知的負荷を増加できるようにしました。このリリースの意義は、目に見える原始的な思考プロセスと「アクションスケーリング」を導入したことにより、エージェントタスクや複雑な推論におけるモデルのパフォーマンスが向上した点にあります。

拡張思考と可視化された思考プロセス

Claude 3.7 Sonnet では、拡張思考モードを有効化することで、難しい質問に対してより深く考えさせることができます。これは別個のモデルではなく、同じモデルが答えに到達するためにより多くの時間と努力を割く仕組みです。開発者はさらに「思考予算」を用いてこの動作を制御できます。

可視化の利点

Anthropic は、ユーザーに原始的な思考プロセスを可視化することで、以下の目的を達成しています：

• 信頼性：ユーザーは答えに至るまでの推論ステップを観察・検証できます。
• 整合性：研究者は内部の思考と外部の応答の間に矛盾がないかを確認し、偽情報の提示などの行動を検出できます。
• 洞察：プロセスから、数学や物理学の専門家に似た推論パターン（複数の視点を検討し、答えを二重チェックするなど）が明らかになります。

制限とリスク

思考プロセスの可視化には特定の課題が伴います：

• 忠実性：Anthropic は、思考プロセスに含まれる英語表現がモデルの内部状態を完全に反映していない可能性があると指摘しています。また、モデルは思考の中で明示的に言及されていない要因に基づいて決定を下すことがよくあります。
• キャラクターとトーン：思考プロセスには標準的なキャラクター学習が適用されていないため、内部の推論は最終出力よりもより客観的で個人的ではないです。
• セキュリティ：可視化された思考プロセスは、悪意ある攻撃者がより効果的なジャイルブレイク戦略を開発する、または訓練中に特定の思考を隠すようにモデルを誘導するインセンティブを与える可能性があります。

エージェント機能とアクションスケーリング

Claude 3.7 Sonnet は「アクションスケーリング」を導入し、関数を反復的に呼び出し、環境の変化に応じて応答することで、オープンエンドなタスクを完了する能力を向上させています。

コンピュータ利用と OSWorld

モデルは仮想的なマウスクリックやキーボード入力を発行してタスクを解決できます。マルチモーダルAIエージェントを評価する OSWorld 評価において、Claude 3.7 Sonnet の性能は、モデルに与えられる操作ステップ数が増えるにつれて、前モデルとの差が広がり、長期的なタスク実行能力の向上が示されています。

Pokémon Red ベンチマーク

エージェント機能をテストするために、Anthropic は Claude 3.7 Sonnet に基本的なメモリと画面ピクセル入力を搭載して Pokémon Red をプレイさせました。以前の Sonnet モデルは早期に失敗（Claude 3.0 Sonnet はスタート町からも出られなかった）でしたが、Claude 3.7 Sonnet は仮説を検証し、複数の戦略を試行することで、3人のジムリーダーと戦い、バッジを獲得しました。

テスト時計算スケーリング

Claude 3.7 Sonnet のパフォーマンスは、推論フェーズ（テスト時）に使用される計算量に比例して向上します。

シリアルスケーリング

モデルは「シリアルテスト時計算」を活用しており、最終的な答えを出力する前に、順次的な推論ステップを実行します。数学的質問の正解率は、サンプリングされた思考トークン数に対して対数的に向上します。

パラレルスケーリング

Anthropic の研究者は「パラレルテスト時計算」を実験しました。これは複数の独立した思考プロセスをサンプリングし、多数決や学習されたスコアリング関数で最良のものを選ぶ方法です。GPQA 評価（生物学、化学、物理学）において、256個の独立したサンプルと64kトークンの思考予算を使用したこの手法により、GPQAスコアは84.8%に達し、物理学のサブスコアは96.5%に達しました。

セーフティとセキュリティフレームワーク

AIセーフティレベル (ASL-2)

Anthropic は Claude 3.7 Sonnet が ASL-2 セーフティ基準を満たしていることを確認しました。モデルは化学・生物・放射線・核（CBRN）兵器に関連するタスクを支援する際に若干の「向上」を示しましたが、すべての試行で致命的な失敗が発生し、エンドツーエンドでの成功はできませんでした。

思考プロセスのセーフガード

有害なコンテンツの暴露を防ぐために、Anthropic は思考プロセスを暗号化しています。思考に高リスクのトピック（例：サイバー攻撃や危険な兵器）が含まれている場合、ユーザーには「この応答の残りの思考プロセスは利用できません」と表示されます。

プロンプトインジェクション防御

コンピュータ利用機能向けに、Anthropic はプロンプトインジェクション攻撃に対する防御を強化しました。新しいトレーニング、見直されたシステムプロンプト、専用の分類器を組み合わせることで、この攻撃を88%の確率で防止できるようになりました（前モデルは74%）。