Anthropic Frontier Red Team：压力测试人工智能能力

Anthropic 的 Frontier Red Team 是一个专门的研究团队，致力于对人工智能系统进行压力测试，以确定其当前能力并预测未来风险。该团队的工作重点是为人工智能在网络安全、国家安全和自主系统方面的潜在影响提供基于证据的分析。

人工智能网络安全与漏洞开发

Anthropic 的 Frontier Red Team 已对大型语言模型（LLMs）对网络安全格局的影响进行了广泛研究。这包括衡量 LLMs 开发漏洞的能力及其对 N-day 漏洞的影响。特别是，该团队已发表关于评估 Claude Mythos Preview 网络安全能力的研究成果。

网络安全方面的关键研究领域包括：

• 漏洞开发：衡量 LLMs 开发漏洞的能力。
• N-day 漏洞：分析 LLMs 对此类漏洞的影响。
• 密码学弱点：使用 Claude 发现密码学弱点。
• 威胁映射：利用 LLM ATT&CK Navigator 映射人工智能赋能的网络威胁，并分析一年内的人工智能赋能网络威胁。

自主系统与机器人技术

Frontier Red Team 探索人工智能控制物理系统和自主代理的潜力。这项研究包括“Project Pilot”，旨在探究人工智能是否能控制无人机，以及对 Claude 在机器人应用中的表现进行研究。

多智能体系统与复杂协作

该团队的研究还延伸至人工智能代理的未来。2026 年 8 月，团队发布了关于多智能体系统中出现的模式与问题的研究成果，识别出随着人工智能系统变得更加自主和协调时可能出现的潜在问题。

研究时间线与重要出版物

Anthropic 的 Frontier Red Team 在 2026 年 4 月至 8 月期间发布了一系列技术报告和研究论文，涵盖以下里程碑：

• 2026 年 8 月：新兴多智能体系统中的模式与问题。
• 2026 年 7 月：使用 Claude 发现密码学弱点；Project Pilot（人工智能控制无人机）。
• 2026 年 7 月：Claude 与机器人技术。
• 2026 年 6 月：Project Fetch：第二阶段；衡量 LLMs 对 N-day 漏洞的影响；通过 LLM ATT&CK Navigator 映射人工智能赋能的网络威胁。
• 2026 年 6 月：人工智能赋能网络威胁的政策分析。
• 2026 年 5 月：衡量 LLMs 开发漏洞的能力。
• 2026 年 6 月：评估 Claude Mythos Preview 的网络安全能力。