ディフェンダーの窓：OpenAIによるAI駆動型サイバーセキュリティ戦略

TL;DR

OpenAIは、AIモデルが現実世界のサイバー攻撃を自動化する能力が高まっていることに対抗するため、AI駆動型の防御への戦略的転換を発表しました。OpenAI-Hugging Faceインシデントとして知られる重大なセキュリティ侵害が発生した後、同社は、攻撃者が行う前に既存のセキュリティギャップを埋めるため、フロンティア・インテリジェンスを使用してセキュリティ慣行を迅速に自動化する必要があると強調しています。

OpenAI-Hugging Faceインシデントの影響

OpenAI-Hugging Faceインシデントは、サイバーセキュリティにおける分水嶺となりました。エージェント的な集合体が、OpenAIの研究インフラと他社の本番インフラの両方を自律的に侵害できることを実証したからです。攻撃者は、以前は未知であったセキュリティ上の欠陥や漏洩したユーザー資格情報を含む、さまざまな脆弱性を連鎖させました。

この出来事は、重要な現実を浮き彫りにしました。ほとんどの企業の「技術的負債」は、AIを活用した攻撃者が前例のないスピードで発見・悪用できる重大な欠陥を隠蔽しています。OpenAIは、フロンティア・モデルが攻撃の自動化能力をますます高めている一方で、これらの同じ能力を防御側が活用することで、人間単独よりも効率的に弱点を発見し、修正できると指摘しています。

OpenAIの4つの柱からなる防御戦略

自社のインフラを保護するため、OpenAIは4つの主要な柱に基づくセキュリティ戦略を実施しています。

1. AI強化型コードセキュリティ

OpenAIは、Codexを使用し、専用のセキュリティプラグインを用いて、デプロイ前にコード変更を検証し、脆弱性を特定します。目標は、単にセキュリティ上の発見事項を提示するだけでなく、実際の脆弱性を捉え、発見から修正の安全なデプロイまでの時間を短縮し、最終的には新しく作成されたコードにおけるソフトウェア脆弱性のクラス全体を排除することです。

2. 継続的なインフラ防御

フロンティア・インテリジェンスは、人間の防御担当者に届く前に、ほぼすべての初期セキュリティアラートをトリアージするために使用されます。これにより、労力（toil）が軽減され、レスポンスタイムが向上し、人間が高度な判断や専門知識に集中できるようになります。OpenAIは、これらの検知を限定的な自動応答へと接続し、「マシン・スピード」でのレスポンスを実現するために、接続を強化しています。

3. プロアクティブな攻撃パスの特定

OpenAIは、フロンティア・インテリジェンスを用いて、潜在的な攻撃パスを継続的に列挙し、調査します。設定ミス、過剰な権限を持つアイデンティティ、意図しない信頼境界を特定することで、同社は攻撃者が悪用する前に、製品やシステム全体にわたるセキュリティ不変量（security invariants）をテストし、ギャップを埋めることができます。

4. スケーラブルな基盤的コントロール

AIへの移行が進む一方で、OpenAIは、古典的なセキュリティ・コントロールが依然として不可欠であることを強調しています。同社は、セキュアなアーキテクチャ、多層防御、最小権限、ネットワーク分離、ワークロードの要塞化、および安全なパッチ適用とデプロイメントへの投資を継続しています。

組織がシステムを保護するための実践的なステップ

OpenAIは、防御側がセキュリティ・ワークフローにAIを統合するために、「ターボ・スピード」で行動することを促しています。推奨されるアクションは以下の通りです。

• 組織的なコミットメント: テーブルトップ演習や、セキュリティチームとエンジニアリングチームの連携を通じて、急速に変化するセキュリティリスクに対処するため、経営陣の承認とリソースを確保すること。
• AIエージェントの導入: CodexやCodex Securityプラグインのようなツールを統合し、エージェントにコードベース、インフラ構成、および技術ドキュメントへの承認済みアクセス権を付与すること。
• セキュリティ専門知識の実装: 静的解析、脆弱性バリアント解析、およびソフトウェア・サプライチェーン・リスクに対して、コミュニティがサポートするスキルを使用し、一方で、内部アーキテクチャと脅威モデルに基づいたカスタムスキルを構築すること。
• 即時のシステム評価: インターネットに公開されているサービス、認証フロー、およびデプロイメント・パイプラインのセキュリティ評価を優先すること。
• 脆弱性バックログのトリアージ: AIエージェントを使用して、既存のバグ・バウンティ・レポートや依存関係のアラートをトリアージし、、exploit可能な問題とノイズを区別すること。
• 統合されたセキュリティ・レビュー: 開発プロセスにAIエージェントを組み込み、CIにおいてコード変更をレビューし、特にアクセス制御のバイパスや資格情報の露出をチェックすること。
• 自動パッチ適用: エージェントを使用して、検証済み問題に対して、焦点を絞ったパッチと回帰テストを生成・検証し、重要な変更については人間のレビューを維持すること。
• 段階的なトリアージ自動化: 読み取り専用のセキュリティ・スキャンから、ライブ・アラートのトリアージ、および誤検知の自動的なクローズ（closure）へ、段階的に移行すること。
• フォレンジック準備態勢: マルウェア分析やインシデント・レスポンスを含む、許可された防御業務のために、GPT-Daybreak-Blueを使用するための「Trusted Access for Cyber」を申請すること。
• Rapid Iteration (迅速な反復): 「ハック・ウィーク」を推奨し、セキュリティ問題の小さな部分を自動化する実験を行い、防御側にとって累積的な防御効果をもたらすこと。

AIセキュリティ・エコノミクスの将来

OpenAIは、AIがセキュリティの経済性を、防御側に有利な方向にシフトさせる可能性があると示唆しています。攻撃者は欠陥を多く見つけやすくなる一方で、、AIは数学的証明を通じてソフトウェアのセキュリティを形式的に検証（formal verification）することが可能にします。これは、以前は人間にとって困難であったタスクです。OpenAIは現在、防御側の優位性を根本的に変えるため、「超人的に安全なコード」を書き出すことに特化したモデルのトレーニングを行っています。