Claude 4 サイバー評価

AnthropicとPattern Labsは、Claude Opus 4およびClaude Sonnet 4に対して厳格なサイバー攻撃評価を実施しました。これらのモデルは、脆弱性の特定および複雑で多段階の攻撃チェーンの実行において顕著な改善を示しており、特定のシナリオにおいて人間レベルのサイバー攻撃能力に向けた進展を示唆しています。

高度な攻撃的セキュリティ能力

Claude 4モデルは、柔軟性と適応性が大幅に向上しています。失敗した、変化のないアプローチを固執しがちであった以前のモデルとは異なり、Claude Opus 4は、課題に直面した際に柔軟に考え、戦略を適応させる能力が向上していることを示しています。

主な技術的改善点には以下が含まれます：

• 脆弱性の特定: モデルはセキュリティ脆弱性の特定において大幅な改善を示しています。
• 攻撃チェーンの実行: Claude 4は、以前のモデルが失敗したシナリオにおいて、複雑な多段階の攻撃チェーンの実行に一貫して成功しています。
• 評価の範囲: テストは、単独のCapture the Flag (CTF) チャレンジから、複雑なネットワーク環境のシミュレーションまで多岐にわたります。

長期的な計画立案における重大な限界

攻撃的能力の進展にもかかわらず、Claude 4モデルは依然として長期的な目標の維持に課題を抱えています。具体的には、予期せぬ障害に直面した際、一貫性のある長期的な計画や目標を維持することに苦戦しています。

安全性への影響と継続的な取り組み

Pattern Labsとの提携により実施されたこれらの評価は、Anthropicの継続的な安全性向上への取り組みに役立てられます。結果は、モデルの攻撃的セキュリティタスクを実行する能力における技術的進展と、モデル自身の戦略的計画能力における残されたギャップの両方を浮き彫りにしています。これは、フロンティアAIモデルが人間レベルのサイバー能力に近づくにつれて、そのリスクプロファイルを理解するために不可欠です。