Anthropic Claude Code 品質レポート更新:回帰と修正に関する事後分析

過去1か月間、Anthropic は Claude の応答におけるパフォーマンス低下の報告を調査し、その原因を Claude Code、Claude Agent SDK、Claude Cowork に影響を与えた3つの異なる変更に特定しました。これら3つの問題はすべて4月20日(v2.1.116)時点で解決されており、コア API と推論層には影響がないことが確認されています。

この投稿では、これらの回帰の根本原因、実施された修正、および今後同様の品質問題を防ぐために Anthropic が採用する新しい手順上の保護策について詳しく説明します。

品質低下問題の概要

一貫性のない品質低下の報告は、異なる時期に展開された3つの別個の無関係な変更によって引き起こされました。初期調査は、内部使用状況も評価も特定された問題を当初再現できず、変更がトラフィックの異なる部分に影響を与えたため、困難を極めました。問題は最終的にユーザーフィードバックを通じて解決され、Anthropic は根本原因を特定して確認することができました。

回帰1:Claude Code のデフォルト推論努力の変更

Anthropic は、Claude Code のデフォルト推論努力を high から medium に変更した3月4日の変更を撤回しました。当初の変更は、不均衡なレイテンシーを削減し、高努力モードで UI がフリーズしているように見えるのを防ぐことを目的としていましたが、このトレードオフにより、ユーザーから Claude Code が以前より賢く感じられないという報告が寄せられました。

Opus 4.6 が2月にリリースされたとき、デフォルトの推論努力は high に設定されていました。時折発生する長尾レイテンシーに関するユーザーフィードバックを受けて、デフォルトは medium に引き下げられました。内部テストでは、medium 努力はほとんどのタスクでわずかに低い知能を達成するものの、レイテンシーが大幅に短縮されることが示されました。しかし、ロールアウト後、ほとんどのユーザーが medium デフォルトを維持したため、知能低下の報告が寄せられました。その結果、Anthropic は4月7日にこの決定を覆し、Opus 4.7 ではデフォルト努力を xhigh に、他のすべてのモデルでは high に設定しました。

回帰2:キャッシュ最適化バグによる以前の推論の喪失

アイドルセッションの再開コストを削減することを目的とした3月26日に展開された効率改善により、Claude が物忘れや繰り返しのように見える重大なバグが導入されました。設計では、セッションが1時間以上アイドル状態になった後にのみ、古い思考セクションを一度だけクリアすることを意図していました。しかし、バグにより、このクリアアクションがセッションの残り期間中、毎ターン実行されるようになりました。

この思考履歴の継続的なクリアにより、後続のリクエストは最新の推論ブロックのみを保持することになり、問題が悪化しました。この記憶喪失は、物忘れ、繰り返し、奇妙なツール選択として表面化しました。さらに、思考ブロックの継続的なドロップによりキャッシュミスが発生し、使用制限が予想よりも速く消費されるという別の報告にも寄与しました。このバグは4月10日に v2.1.101 で修正されました。

回帰3:冗長性を減らすためのシステムプロンプト変更

Anthropic は、本質的に冗長になりがちな Claude Opus 4.7 の冗長性を削減することを目的とした4月16日に追加されたシステムプロンプト命令を撤回しました。システムプロンプトに追加された具体的な命令は次のとおりです:

“長さ制限:ツール呼び出し間のテキストは25語以下に保つ。タスクがより詳細を必要としない限り、最終応答は100語以下に保つ。”

この変更は Opus 4.7 とともに出荷されましたが、その後のアブレーション(影響をテストするためにシステムプロンプトから行を削除)により、Opus 4.6 と 4.7 の両方で知能が3%低下することが示されました。このプロンプトは4月20日のリリースの一部として直ちに撤回されました。

将来の品質保証と予防措置

同様の問題が再発する可能性を大幅に減らすため、Anthropic は開発ライフサイクルにいくつかの構造的および手順上の変更を実装しています。

  • 内部忠実度の向上: 内部スタッフのより多くの割合が、内部テストバージョンではなく、正確な公開ビルドの Claude Code を使用するようになります。
  • コードレビューの強化: Anthropic は内部コードレビューツールを改善し、この改善版を顧客に提供しています。バックテストでは、Opus 4.7 が完全なコードリポジトリを提供された場合にキャッシュバグを発見できることが示され、より良いコンテキスト処理の必要性が示されました。コードレビューのコンテキストとして追加のリポジトリをサポートすることが追加されています。
  • プロンプト管理の厳格化: システムプロンプトの変更をレビューおよび監査しやすくするための新しいツールが構築されました。Anthropic は、すべてのシステムプロンプト変更に対してモデルごとの広範な評価スイートを実行し、各行の影響を理解するためのアブレーションを継続します。
  • 段階的ロールアウト: 知能とトレードオフの可能性がある変更については、Anthropic はソーク期間、より広範な評価スイート、および段階的ロールアウトを実施し、問題を早期に発見します。

将来の品質保証と予防措置

同様の問題が再発する可能性を大幅に減らすため、Anthropic は開発ライフサイクルにいくつかの構造的および手順上の変更を実施しています。

  • 内部忠実度の向上: 内部スタッフのより多くの割合が、内部テストバージョンではなく、Claude Code の正確な公開ビルドを使用するようになります。
  • コードレビューの強化: Anthropic は内部コードレビューツールを改善し、この改善版を顧客に提供しています。バックテストでは、Opus 4.7 が完全なコードリポジトリを提供された場合にキャッシュバグを発見できることが示され、より良いコンテキスト処理の必要性が示されました。コードレビューのコンテキストとして追加のリポジトリをサポートすることが追加されています。
  • プロンプト管理の厳格化: システムプロンプトの変更をより簡単にレビューおよび監査できるようにする新しいツールが構築されました。Anthropic は、すべてのシステムプロンプト変更に対してモデルごとの広範な評価スイートを実行し、各行の影響を理解するためのアブレーションを継続します。
  • 段階的ロールアウト: 知能とトレードオフの可能性がある変更については、Anthropic はソーク期間、より広範な評価スイート、および段階的ロールアウトを実施し、問題を早期に発見します。

将来の品質保証と予防措置

同様の問題が再発する可能性を大幅に減らすため、Anthropic は開発ライフサイクルにいくつかの構造的および手順上の変更を実施しています。

  • 内部忠実度の向上: 内部スタッフのより多くの割合が、内部テストバージョンではなく、Claude Code の正確な公開ビルドを使用するようになります。
  • コードレビューの強化: Anthropic は内部コードレビューツールを改善し、この改善版を顧客に提供しています。バックテストでは、Opus 4.7 が完全なコードリポジトリを提供された場合にキャッシュバグを発見できることが示され、より良いコンテキスト処理の必要性が示されました。コードレビューのコンテキストとして追加のリポジトリをサポートすることが追加されています。
  • プロンプト管理の厳格化: システムプロンプトの変更をより簡単にレビューおよび監査できるようにする新しいツールが構築されました。Anthropic は、すべてのシステムプロンプト変更に対してモデルごとの広範な評価スイートを実行し、各行の影響を理解するためのアブレーションを継続します。
  • 段階的ロールアウト: 知能とトレードオフの可能性がある変更については、Anthropic はソーク期間、より広範な評価スイート、および段階的ロールアウトを実施し、問題を早期に発見します。

SUMMARY: Anthropic は、Claude Code における3つの別個の技術的回帰(推論努力、セッションキャッシュ、冗長性プロンプトに関連)を解決し、モデル品質の一貫性を確保するための新しい厳格なテストプロトコルを導入しています。

TITLE: Anthropic Claude Code 品質レポート更新:回帰と修正に関する事後分析

Sources