防御者的窗口：OpenAI 在 AI 驱动的网络安全领域的策略

TL;DR

OpenAI 宣布了一项向 AI 驱动防御转型的战略转变，以应对 AI 模型在自动化现实世界网络攻击方面日益增长的能力。在发生被称为 OpenAI-Hugging Face 事件的重大安全漏洞后，该公司强调，组织必须利用前沿智能快速实现其安全实践的自动化，以便在攻击者之前填补现有的安全差距。

OpenAI-Hugging Face 事件的影响

OpenAI-Hugging Face 事件是网络安全领域的一个分水岭，它证明了智能体集体可以自主渗透 OpenAI 的研究基础设施和另一家公司的生产基础设施。攻击者将各种漏洞串联起来，包括此前未知的安全缺陷和泄露的用户凭据。

这一事件凸显了一个关键现实：大多数公司的“技术债”掩盖了重大缺陷，而 AI 驱动的攻击者现在可以以前所未有的速度发现并利用这些缺陷。OpenAI 指出，虽然前沿模型在自动化攻击方面的能力日益增强，但这些同样的能力也可以被防御者利用，以比仅靠人类更高效地发现并修复弱点。

OpenAI 的四大支柱防御策略

为了保护其自身的基础设施，OpenAI 正在实施基于四大支柱的安全策略：

1. AI 增强的代码安全

OpenAI 使用 Codex 和专门的安全插件来验证代码变更并在部署前识别漏洞。其目标是超越简单的安全发现，转而捕捉真实的漏洞，并缩短从发现到安全部署修复程序的时间，最终在新建的代码中消除整类软件漏洞。

2. 持续的基础设施防御

在前沿智能到达人类防御者之前，它被用于对几乎所有初始安全警报进行分诊。这减少了繁琐的工作并提高了响应时间，从而允许人类专注于高层级的判断和专业知识。OpenAI 正在越来越多地将这些检测结果与受限的自动化响应相连接，以实现“机器速度”级别的响应速度。

3. 主动攻击路径识别

OpenAI 利用前沿智能来持续枚举和探测潜在的攻击路径。通过识别配置错误、权限过大的身份以及无意的信任边界，公司可以填补差距并在其产品和系统被攻击者滥用之前，测试安全不变性。

4. 扩展基础控制措施

尽管向 AI 转型，OpenAI 强调经典的安全控制措施仍然至关重要。公司继续投资于安全架构、深度防御、最小权限原则、网络隔离、工作负载加固以及安全的补丁程序和部署。

组织保护其系统的实际步骤

OpenAI 敦促防御者以“涡轮速度”将 AI 集成到其安全工作流中。建议的操作包括：

组织承诺： 通过桌面演练以及安全与工程团队之间的协作，确保高层管理人员的支持并获得资源，以应对快速变化的安全风险。
部署 AI Agents： 集成 Codex 或 Codex Security 插件等工具，为智能体提供对代码库、基础设施配置和技术文档的批准访问权限。
实施安全专业知识： 使用社区支持的技能进行静态分析、漏洞变体分析和软件供应链风险管理，同时基于内部架构和威胁模型构建自定义技能。
立即进行系统评估： 优先对面向互联网的服务、身份验证流程和部署流水线进行安全评估。
漏洞积压分诊： 使用 AI agents 来分诊现有的 bug bounty 报告和依赖项警报，将可利用的漏洞与噪音区分开来。
集成式安全审查： 将 AI agents 嵌入到开发过程中，在 CI 之前审查代码变更，特别是在合并前寻找访问控制绕过和泄露的凭据。
自动化补丁程序： 使用 agents 生成并验证针对已验证问题的针对性补丁和回归测试，同时对具有重大影响的变更保持人类审查。
增量式分诊自动化： 逐渐从只读的安全扫描转向实时警报分诊，以及自动关闭误报。
网络取证准备： 申请“Trusted Access for Cyber”以使用 GPT-Daybreak-Blue 进行授权的防御工作，包括恶意软件分析和事件响应。
快速迭代： 鼓励“hack weeks”并尝试自动化解决安全问题的一小部分，以实现复合型的防御结果。

AI 安全经济学的未来

OpenAI 建议，AI 可能会使安全经济学向有利于防御者的方向转变。虽然攻击者可以更容易地发现缺陷，也同样可以用 AI 通过数学证明来正式地验证软件的安全性——这是一项此前对人类而言难以完成的任务。OpenAI 目前正在训练专门用于编写“超人类安全代码”的模型，以从根本上改变防御优势。