AnthropicとPNNLによるAI重要インフラ防御研究

AnthropicとPacific Northwest National Laboratory (PNNL)は、AIが重要インフラにおける脆弱性の特定を大幅に加速させ、攻撃者エミュレーションに必要な時間を数週間からわずか3時間に短縮できることを実証しました。この概念実証は、AI主導のレッドチーミングが、水処理施設などの不可欠なシステムにおいて、攻撃者に悪用される前にセキュリティギャップを埋めるためにどのように役立つかを示しています。

AIによる攻撃者エミュレーションの加速

AIモデルは、攻撃者エミュレーション（ネットワークに対する特定の脅威アクターや攻撃をモデル化して、脆弱性や検知の死角を特定するプロセス）を自動化するために使用できます。防御的な変更を実装した後、攻撃を再エミュレーションすることで、セキュリティチームはそれらの調整の有効性を客観的に評価できます。

これを実現するために、PNNLはClaudeのための「スキャフォールド（足場）」を開発し、自然言語のプロンプトを複雑な攻撃チェーンに変換します。このシステムは、事前に定義されたコードベースのツールを利用して、モデルがコンピュータネットワーク上でより効率的にアクションを実行できるようにします。

ケーススタディ：水処理施設のシミュレーション

研究者たちは、Claudeを搭載したエージェントに対し、水処理施設の高忠実度サイバー物理モデルに対する攻撃のエミュレーションを命じました。このシミュレーションは、米国国土安全保障省のCybersecurity and Infrastructure Security Agency (CISA)に代わってPNNLが運営するControl Environment Laboratory Resourceプラットフォームを使用して実施されました。

シミュレーションの主な結果は以下の通りです：

• 効率性の向上: 通常、専門家が数週間を要する攻撃の再構築が、3時間で完了しました。
• モデルのリソース活用能力: テスト中、ClaudeはWindows User Account Control (UAC)をバイパスするための事前定義されたツールが失敗した際、適応する能力を示しました。モデルは、目的を達成するために、代替の既知のUACバイパス手法を特定し、実装しました。

このシミュレーションは、2025年夏にClaude Sonnet 4を使用して実施されました。Anthropicは、モデルの能力が進化し続けるにつれて、このレベルのリソース活用能力と創造性はさらに高まると予想されており、攻撃者と防御者の両方に利益をもたらすと述べています。

国家安全保障における官民パートナーシップの役割

重要インフラの防御には、最先端のAIインテリジェンスと専門的な物理テスト環境の組み合わせが必要です。AnthropicとPNNLのコラボレーションは、どちらか一方では独立して実験を実施できなかった補完的なパートナーシップを示しています。Anthropicはモデルのインテリジェンスを提供し、PNNLはサイバー物理資産とドメインの専門知識を提供しました。

このプロジェクトは、サイバー防御と国家安全保障にAIを適用するためのより広範な戦略の一部です。他の関連するコラボレーションには以下が含まれます：

• 核のセーフガード: National Nuclear Security Administrationと協力し、AIに関連する核のリスクに対する評価と緩和策を開発しています。
• The Genesis Mission: 国家安全保障のための科学的突破口を実現するために、最先端のAI企業と国立研究所が関与するDepartment of Energy (DOE)のイニシアチブです。