Claude Opus 4.6: LLM-Discovered Zero-Day Vulnerabilities

Claude Opus 4.6 identifies high-severity vulnerabilities at scale

Anthropicは、Claude Opus 4.6が、十分にテストされたオープンソースのコードベースにおいて、高深刻度のゼロデイ脆弱性を発見できることを発表しました。これは、数十年にわたり未検出のままだったバグを見つけることも少なくありません。ランダムな入力に依存する従来のファザーとは異なり、Opus 4.6は人間のような推論を用いてコードを分析し、パターンを特定し、ロジックを理解することで、タスク固有のツールやカスタムスキャフォールディングを必要とせずに脆弱性を発見します。

Methodology for vulnerability discovery

モデルの「アウト・オブ・ザ・ボックス」の能力をテストするために、Anthropicは、標準的なユーティリティ（Pythonやcoreutilsなど）およびデバッガやファザーなどの脆弱性分析ツールを備えたシミュレートされた仮想マシン内にClaudeを配置しました。モデルには、これらのツールに対する専門的な指示やカスタムハーネスは与えられませんでした。

ハルシネーションによるバグの報告を防ぐため、Anthropicは厳格な検証プロセスを実装しました：

Focus on memory corruption: メモリ破壊に関する脆弱性に焦点を当てました。チームは、プログラムのクラッシュやアドレスサニタイザを通じて容易に検証できるため、メモリ破壊の脆弱性を優先しました。
Model-led refinement: Claudeを使用して、クラッシュの批判、重複排除、および優先順位の再設定を行いました。
Human validation: Anthropicのセキュリティ研究者が初期の発見内容を検証し、手動でパッチを適用しました。発見の量が増えるにつれて、外部の人間による研究者も招かれました。

Anthropicは、オープンソースソフトウェアにおいて500件以上の高深刻度の脆弱性を検証済みであり、現在はメンテナーと協力して、それらの報告とパッチ適用を進めています。

Case studies in LLM-driven discovery

Claude Opus 4.6は、以下の3つの具体的な事例において、従来のツールに対して独自の優位性を示しました：

GhostScript: Reasoning via Git history

初期のファジングと手動分析が失敗した後、ClaudeはGitのコミット履歴を分析しました。Claudeは「stack bounds checking for MM blend values」に関するセキュリティに関連するコミットを特定し、ある場所に修正が追加されたのであれば、同様の脆弱性が他の未修正のコードパスに存在する可能性があると推論しました。これにより、Claudeはgdevpsfx.cにおける境界チェックの欠落を発見し、概念実証（PoC）のクラッシュを構築しました。

OpenSC: Identifying unsafe function patterns

Claudeは、リポジトリ内で脆弱性と頻繁に関連する関数、具体的にはstrrchrとstrcatを検索しました。OpenSCにおいて、出力バッファの長さが適切に検証されていないstrcat操作のシーケンスを特定し、バッファオーバーフローを引き起こす箇所を特定しました。Anthropicは、必要な前提条件を満たす必要があるため、従来のファザーはめったにこのコード行に到達しないが、Claudeはどのコード断片が最も興味深いかを推論できると指摘しました。

CGIF: Conceptual understanding of algorithms

Claudeは、圧縮データは常に元のサイズよりも小さいという仮定の欠陥を認識することで、CGIFライブラリにおけるバッファオーバーフローを発見しました。これには、LZW圧縮アルゴリズムと、それがどのようにシンボルテーブルのリセットを具体的に扱うかについての概念的な理解が必要でした。この脆弱性は、特定の操作シーケンスを必要とするため、従来のファザーでは100%の行および分岐網羅率（branch-coverage）を達成しても、未検出のままとなる可能性があります。

Cybersecurity safeguards and misuse detection

これらの機能のデュアルユース（二重用途）のリスクを管理するため、Anthropicは、応答生成中のモデルの内部アクティベーションを測定する「プローブ」を使用した新しい検出レイヤーを導入しています。これらのサイバー特化型のプローブにより、Safeguardsチームは、潜在的な悪用用を大規模に検出することが可能になります。

実施策には以下が含まれます：

Updated workflows: サイバー執行パイプラインにプローブベースの検出を統合すること。
Expanded actions: 悪意があると検出されたトラフィックをブロックする可能性を含む、リアルタイムの介入を行うこと。

Implications for the security industry

Anthropicは、LLMが、まもなく人間による研究者を上回る速度と規模で新しい脆弱性を特定できる能力を持つことは、業界の規範の進化が必要であることを示唆しています。具体的には、LLMが発見したバグの量と速度を、考慮すると、従来の90日間の開示窓口（disclosure window）は、もはや持続可能ではない可能性があります。