Anthropic、サイバー防御者のためのAIを構築中

Anthropicは、防御者のためのサイバーセキュリティ能力の強化に特化したClaude Sonnet 4.5を開発しました。これにより、コードの脆弱性発見において、より大規模なClaude Opus 4.1の性能に匹敵、あるいはそれを凌駕する能力を実現しています。この転換は、最先端のAIが高度なサイバータスクを実行する能力をますます高めているという変曲点を示しており、AIを活用する攻撃者との均衡を維持するために、AI主導の防御ツールの加速が必要不可欠となっています。

Claude Sonnet 4.5における強化されたサイバー能力

Claude Sonnet 4.5は、単なるモデルのスケーリングに頼るのではなく、コードの脆弱性発見やパッチ適用といった主要な防御スキルに研究を特化させることで開発されました。サイバーセキュリティのスキルは、一般的なトレーニングの副産物として現れることが多いですが、Anthropicは、防御者が以前の最先端モデルよりも高速かつ低コストな高性能ツールを備えられるよう、これらの領域に焦点を当てました。

Cybenchにおけるパフォーマンス

Capture-the-Flag (CTF) チャレンジに基づくベンチマークであるCybenchを用いた評価において、Claude Sonnet 4.5は以前のバージョンと比較して大幅な改善を示しました。

  • 成功率: タスクごとに10回の試行が与えられた場合、Sonnet 4.5は76.5%の成功率を達成し、Sonnet 3.7（2025年2月リリース）の35.9%という成功率の2倍以上に達しました。
  • 効率性: Sonnet 4.5は、Opus 4.1が10回試行して達成できる成功確率を、わずか1回の試行で達成できる可能性があります。
  • 複雑なワークフロー: このモデルは、ネットワークトラフィック分析、マルウェア抽出、および復号を含む複雑なタスクを38分間で解決することに成功しました。これは、熟練した人間が少なくとも1時間かかると推定されるタスクです。

CyberGymにおけるパフォーマンス

オープンソースソフトウェアにおける既知および未知の脆弱性を発見する能力をテストするCyberGymベンチマークを使用した場合、Claude Sonnet 4.5は新たなパフォーマンス記録を樹立しました。

  • 既知の脆弱性: 脆弱性1件あたり$2のAPIクエリ制限がある場合、Sonnet 4.5は28.9%という最先端のスコアを達成しました。制約が取り除かれ、30回の試行が許可された場合、成功率は66.7%に上昇しました。
  • 新しい脆弱性の発見: Sonnet 4.5は、単回の試行でケースの5%において新しい脆弱性を発見しました。30回の試行が与えられた場合、プロジェクトの33%以上で発見に至りました。これは、脆弱性を約2%のターゲットに対して発見したSonnet 4と比較して、大幅な増加です。

自動パッチ適用に関する研究

Anthropicは、脆弱性を修正するためのパッチの生成およびレビューを行うモデルの能力について、予備的な研究を行っています。パッチ適用は、発見よりも困難なタスクであるとされています。なぜなら、明示的な仕様なしに、元の機能を維持しながら外科的な変更を加える必要があるからです。

初期の実験では、Claude Sonnet 4.5が生成したパッチの15%が、人間が作成した参照用パッチと意味的に同等であると判断されました。手動分析の結果、最も高いスコアを獲得したパッチの一部は、オープンソースソフトウェアにマージされたものと機能的に同一であることが確認されました。これは、パッチ生成が、重点的な研究を通じてさらに洗練させることが可能な、創発的な能力であることを示唆しています。

実社会での応用と業界からのフィードバック

Anthropicは、セキュリティ組織と協力して、Claude Sonnet 4.5を実社会の課題に対してテストしました。主なフィードバックは以下の通りです。

  • HackerOne: Claude Sonnet 4.5は、Hai security agentsの平均脆弱性受付時間を44%削減し、精度を25%向上させたと報告しました。
  • CrowdStrike: レッドチーミングや、エンドポイント、アイデンティティ、クラウド、およびAIワークロード全体にわたる攻撃者の手法（tradecraft）の研究を加速させるための、創造的な攻撃シナリオの生成におけるモデルの有望性を指摘しました。

サイバーセキュリティにおける戦略的意義

Anthropicは、組織が攻撃者に優位性を譲り渡さないために、防御のためのAIを導入することが極めて重要であると指摘しています。これは、脅威アクターがAIを使用して、大規模なデータ強奪や、重要な通信インフラを標的とした複雑なスパイ活動（一部は中国のAPT操作に関連するもの）を行うことで引き起こされる混乱によって裏付けられています。

これに対抗するため、Anthropicは、CI/CDパイプラインへのAIの統合による自動セキュリティレビュー、およびSecurity Operations Center (SOC) の自動化、Security Information and Event Management (SIEM) 分析、およびアクティブ防御への活用拡大を提案しています。目標は、サイバーセキュリティにおけるAIの役割をを、将来の懸念事項から、設計段階からデジタルインフラを保護するための、現在進行形の必須事項へと移行させることです。

Sources

関連