OpenAI 与波兰 NASK 合作推进 AI 安全与安保

OpenAI 与波兰 NASK 国家研究所已签署协议，探讨在 AI 安全、安保和技术研究方面的合作。此次合作意义重大，因为它将一家国家级公共研究机构纳入 OpenAI 已合作的、由政府支持的 AI 安全研究所新兴网络，并且 NASK 旗下的 CERT Polska 已利用 OpenAI 的网络能力模型在广泛部署的网络硬件中发现了真实漏洞。

协议涵盖内容

该协议是合作框架，而非产品发布。根据协议，NASK 的 AI 安全研究中心——作为波兰人工智能安全研究所（AISI）——将与 OpenAI 共同开展 AI 安全研究。

声明的联合工作领域包括：

• 探索评估日益强大的 AI 系统的方法。
• 识别这些系统中的潜在漏洞。
• 加强安全防护措施。

两家机构将目标描述为汇集双方专业知识，以更好地理解新兴风险、加强安全防护，并探索先进 AI 如何为更安全、更具韧性的数字生态系统做出贡献。

OpenAI 为何将此视为国际努力

OpenAI 表示，随着 AI 系统能力日益增强，开发者与公共研究机构之间的国际合作对于理解风险、构建更强防护至关重要。

该公司指出其已与公共研究机构开展的合作，包括美国超级智能标准与创新促进中心（CAISSI）和英国 AI 安全研究所（AISI）。据 OpenAI 称，这些工作已帮助加强安全防护、识别并修复 AI 代理中的安全漏洞，并推进前沿 AI 安全。

OpenAI 还单独呼吁美国与世界各国合作制定前沿 AI 的国际技术标准，借鉴 AI 安全研究所和标准机构的专业知识。该公司认为，在评估能力、评估风险、测试防护和报告事件方面采用共同方法，可以帮助各国比较证据并应对跨境风险。NASK 合作被作为将国家专业知识纳入这一更广泛努力的一个例子。

NASK 的角色与波兰背景

NASK 的贡献基于其在 AI 安全方面的广泛研究，这些研究直接应用于保护公共服务和波兰的数字信息生态系统。OpenAI 的帖子提出了一个关于国家合作伙伴为何重要的具体论点：如果没有像 NASK 这样的国家合作伙伴，全球 AI 安全标准可能仍与 AI 实际使用的现实脱节。

这一框架将 AI 安全研究所定位为抽象国际标准与具体环境——公共服务、国家数字基础设施——之间的桥梁，这些环境是 AI 系统部署的地方。

先前工作：CERT Polska 与 MikroTik RouterOS 漏洞

该协议建立在 OpenAI 与波兰网络防御者现有合作的基础上。7 月，在 NASK 内运作的 CERT Polska 通过 Daybreak 获得了 OpenAI 网络能力模型的访问权限。

根据公告，该团队使用 OpenAI 模型帮助发现了 MikroTik RouterOS 中的六个漏洞，包括可能被组合利用、在无需认证的情况下控制受影响设备的缺陷。供应商已发布修复程序，CERT Polska 确认这些修复阻止了其观察到的攻击。

这是为此次合作引用的具体先例：一个国家计算机应急响应团队使用前沿模型发现并帮助修复网络设备中的真实安全缺陷，供应商发布补丁，修复措施针对观察到的攻击得到验证。

公告说明了什么，未说明什么

该帖子描述了一项探索合作的协议，并列出了预期的研究领域。它未指定资金、人员、时间表、交付成果，或任何联合基准或评估结果。唯一引用的量化成果是早前 CERT Polska 的工作：在 MikroTik RouterOS 中发现的六个漏洞，供应商修复已确认阻止了 CERT Polska 观察到的攻击。