AI脆弱性のパラドックス：Project Glasswingからの教訓

サイバーセキュリティの伝統的なサイクルは、常に脆弱性の発見とパッチの展開との間の競争でした。数十年にわたり、主なボトルネックは「発見」でした。大規模で複雑なコードベースの中から「ゼロデイ」の欠陥を見つけ出すことの極めて高い困難さです。しかし、最先端のAIモデルの登場が、この構図を覆そうとしています。

Anthropicは最近、Project Glasswingに関するアップデートを提供しました。これは、Claude Mythos Previewと呼ばれる特化型モデルを使用して、重要なソフトウェア・インフラストラクチャを保護するための共同作業です。その結果は、私たちがサイバーセキュリティの新時代に突入したことを示唆しています。つまり、脆弱性を発見する能力が、人間がそれらを修正する能力を追い越してしまった時代です。

AI主導の発見の規模

Project Glasswingとその50のパートナーは、最初の数週間でMythos Previewを活用し、システム的に重要なソフトウェア全体で10,000件以上の高重要度または致命的な脆弱性を特定しました。この発見の規模は前例がありません。例えば、Cloudflareは、自社のクリティカルパス・システムにおいて2,000件のバグ（うち400件が高重要度または致命的）を発見したと報告しており、その誤検知率（false positive rate）が人間のテスターよりも優れていると述べています。

外部による検証も、このモデルの能力を裏付けています：

  • The UK AI Security Instituteは、Mythos Previewが彼らのサイバーレンジの両方をエンドツーエンドで解決した最初のモデルであると報告しました。
  • Mozillaは、Firefox 150において271件の脆弱性を発見・修正しました。これは、Claude Opus 4.6を使用した以前のバージョンで見つかった数の10倍以上です。
  • Academic Benchmarks（ExploitBenchおよびExploitGym）は、現在Mythos Previewをエクスプロイト開発における最強のパフォーマーとしてランク付けしています。

オープンソースの危機

非公開のパートナーシップを超えて、Anthropicは1,000件以上のオープンソース・プロジェクトをスキャンしました。このモデルは、6,202件の高重要度または致命的な脆弱性を推定しました。独立したセキュリティ企業によって検証された結果、発見事項の90.6%が有効な真陽性（true positives）であることが証明され、そのうち62.4%が致命的または高重要度であることが確認されました。

注目すべき成功例の一つは、wolfSSLにおける脆弱性の検出です。これは、数十億のデバイスで使用されている暗号化ライブラリです。Mythos Previewは、攻撃者が証明書を偽造し、銀行やメールプロバイダーの偽サイトをホストすることを可能にするエクスプロイトを構築しました。

しかし、この成功はシステム的な脆弱性を浮き彫りにしています。AIが数秒で数千のバグを見つけ出すことができる一方で、トリアージ、報告、およびパッチ適用というプロセスは、依然として手動で人間中心のプロセスです。すでにリソースが限られている多くのオープンソース・メンテナーは、AIが生成した大量のバグ報告に圧倒されており、中にはAnthropicに対して、パッチ適用時間を確保するために開示を遅らせるよう求める者もいます。

「パッチ適用のボトルネック」と新たなリスク

私たちは今、危険な過渡期に直面しています。Mythosクラスの能力を持つモデルが一般的になるにつれ、脆弱性の発見とエクスプロイトのコストと時間は激減するでしょう。しかし、「ラグタイム（遅延時間）」、つまり発見、パッチ適用、およびユーザーへの展開までの期間は、ほとんど変わっていません。

これは極端なリスクを生み出します。もし、同様の能力を持つモデルがガードレールなしでリリースされた場合、防御側がトリアージを開始する前に、攻撃者がインターネットの基幹インフラストラクチャ全体にわたって数千のゼロデイ脆弱性を自動的に発見できてしまう可能性があります。

適応のための戦略

このリスクを軽減するため、業界は「バグの発見」から「修正の展開」へと焦点を移さなければなりません：

  1. パッチサイクルの短縮： 開発者は、修正からリリースまでの時間を加速させ、エンドユーザーにとって可能な限り摩擦のないアップデートを可能にする必要があります。
  • デフォルトの要塞化（Hardening）： ネットワーク防御側は、個別のパッチに頼るのではなく、NISTやNCSCが推奨するように、システム的な要塞化（例：MFA、強化されたデフォルト設定、および包括的なロギング）に、より依存すべきです。
  1. AIによる修正の支援： Claude Securityのようなツールは、脆弱性を発見するだけでなく、修正案を生成することで、このギャップを埋めようとしています。これは、オープンソースにおける調整された開示プロセスよりも、はるかに速くパッチを適用できる可能性があります。

技術的な懐疑論と反論

公式の結果は素晴らしいものですが、技術コミュニティは依然として慎重です。Some developers and security researchers have raised critical points regarding the

Sources