OpenAI 与 Hacktron 合作以增强系统安全性

合作概述

OpenAI 正在与 Hacktron 合作，这是一家专注于人工智能驱动的代码审查、渗透测试和红队测试的安全研究公司，旨在识别并修复 OpenAI 基础设施中的漏洞。此次合作优先测试 OpenAI 系统如何与第三方服务进行交互，并利用 Hacktron 在发现应用程序、云基础设施和身份系统漏洞方面的专业知识。

扩大对前沿模型的访问权限

作为该计划的一部分，OpenAI 将通过 Daybreak Red 项目授予 Hacktron 研究人员对其前沿模型的扩展访问权限。此举旨在促进更深入的安全测试，并研究随着 AI 代理越来越多地连接不同服务时可能出现的漏洞。

更广泛的安全策略

此次合作是 OpenAI 加速网络防御和强化系统工作的一部分。近期举措包括：

• 安全冲刺 (Security Sprints)： 计划与 Cathedral 的研究人员合作，进行密集的安全测试。
• 提高漏洞赏金奖励： OpenAI 提高了其漏洞赏金的支付额度，以激励独立研究人员识别内部测试可能遗漏的漏洞。

合作理由

OpenAI 选择 Hacktron 是基于该公司在现有安全漏洞赏金计划中的表现。OpenAI 指出，Hacktron 构建用于安全任务的 AI 代理的能力，与公司利用 AI 更快地行动并解决更复杂安全挑战的目标相一致。此次合作旨在通过测试 AI 代理与外部服务之间连接的安全性来加强防御。