OpenAI 面向 AGI 开发的安全策略

AI 驱动的网络防御

OpenAI 使用其自有的 AI 技术来扩展网络防御并提升威胁检测。这些 AI 驱动的安全代理通过提供精准、可操作的情报，并实现对复杂对抗性策略的快速响应，来补充传统的事件响应策略。

持续的对抗性红队演练

为了主动识别漏洞，OpenAI 与安全研究专家 SpecterOps 合作，在企业、云端和生产环境中进行真实的模拟攻击。此合作的重点包括：

• 对安全防御进行严格测试，以强化响应策略。
• 生成高级技能培训，以提升模型在保护产品和模型方面的能力。

威胁行为者的干扰与行业合作

OpenAI 监控并阻止恶意行为者利用其技术的尝试。当识别出具体威胁——例如针对员工的鱼叉式网络钓鱼活动——时，OpenAI 会将相关的作战手法分享给其他 AI 实验室、行业合作伙伴和政府机构，以加强对新兴风险的集体防御。

保障 AI 代理和自主系统的安全

随着 Operator 等高级代理和深度研究的引入，OpenAI 正在应对与代理 AI 相关的独特安全挑战。关键的缓解措施包括：

• 对齐方法：开发稳健的方法以防御提示注入攻击。
• 基础设施与监控：加强底层安全并实施监控控制，以检测和缓解意外或有害行为。
• 统一流水线：构建模块化框架，以在各种代理行为和形态上提供可扩展的实时可视性和强制执行。

面向未来大规模计划的安全

针对 Stargate 等下一代项目，OpenAI 通过多项行业领先实践将安全融入基础设计：

• 架构安全：采用零信任架构和硬件支持的安全解决方案。
• 物理防护：随着物理基础设施的扩展，实施先进的访问控制、全面的监控以及加密保护。
• 供应链安全：关注软件和硬件供应链的安全，以确保纵深防御。