OpenAI赋能网络防御者与AI治理蓝图

AI正在从根本上改变网络安全的速率、规模和经济效益，既带来了强大的防御能力，也带来了重大的新风险。本蓝图提出了政府和行业应采取的具体行动，以加强保护并在高级进攻性AI能力广泛可用之前赋能网络防御者。

防御者窗口的紧迫性

AI系统可以通过帮助防御者检测入侵、发现并修复漏洞以及响应攻击来显著协助网络安全防御者。然而，同样的能力也可能被恶意行为者利用，当AI系统超出其预期边界运行时，会产生新的风险。OpenAI识别出一个“防御者窗口”——在高级网络进攻能力变得普遍之前，将先进AI整合到防御操作中并加强保护的有限机会。

借鉴内部错位和安全事件的经验教训，该蓝图在三个关键领域提出了具体建议，以加强前沿AI的民主治理。

为了减轻前沿模型和智能体固有的风险，组织必须明确AI安全方面的责任。这需要实施强有力的保障措施，确保模型安全，能够检测危险行为，并保持对组织控制下所有操作的可靠关闭控制。

赋能防御者需要全面现代化当前的网络安全实践。这一支柱侧重于为防御者提供先进工具、技术支持和专业培训。此外，它要求解决长期存在的网络安全弱点，并通过替换过时系统来投资于保护基本服务。

政府必须增强其管理高级AI风险的能力。这涉及加强政府对AI系统的评估和独立技术审查。此外，蓝图呼吁建立一致的 incident 报告要求，并改善网络事件期间的协调和恢复流程。

应对高级AI带来的风险需要AI开发者与治理机构之间的合作。AI实验室有责任解决其系统产生的风险，并为加强社会防御做出贡献。同时，随着AI能力的进步，政府必须具备必要的专业知识、资源和权力来保护公众。

OpenAI鼓励政策制定者立即采取行动，建立必要的保障措施，从运营经验中学习，并随着技术的不断发展加强要求。