OpenAI Zero Data Retention and Private Safety Processing announcement

TL;DR

OpenAI 为符合条件的 API 客户引入了 Zero Data Retention (ZDR)，保证在处理完成后不会存储提示词 (prompts) 和模型响应，并预览了 Private Safety Processing，该功能可以在不让 OpenAI 人员访问底层数据的情况下，检测跨交互的风险模式。

Zero Data Retention (ZDR) guarantees

• No prompt or response storage: OpenAI 在请求完成后不会保留任何客户内容。
• No internal review access: OpenAI 人员无法通过手动检查来访问客户数据。
• No training use without opt‑in: 除非客户明确选择贡献，否则企业数据不会被用于模型训练。
• Customer‑controlled infrastructure: 对于 ZDR 部署，所有内容都保留在客户拥有的基础设施上。
• Encrypted OpenAI storage option: OpenAI 正在开发一种存储解决方案，其中数据使用仅由客户控制的密钥进行加密，从而防止 OpenAI 工作人员解密内容。

Why safety systems must evolve

• Multi‑interaction risk: 危害性意图通常只有在结合多个交互进行检查时才会显现，例如协调一致地探测防护措施，或代理 (agents) 在被告知停止后继续执行操作。
• Longer, more complex tasks: 随着模型处理的任务变得更长、更复杂，跨调用的上下文信息对于区分合法使用与滥用变得至关重要。
• Conflict with security obligations: 一些前沿模型 (frontier‑model) 的部署之前要求提供商保留内容以进行安全监控，这与许多组织的监管和信任要求相冲突。

Private Safety Processing overview

• Pattern detection without data retention: 扩展了现有的 ZDR 安全机制，以分析相关交互的序列，同时保持原始内容对 OpenAI staff 无法访问。
• Works with any storage location: 可以在存储在客户自有基础设施上，或存储在由 OpenAI 提供并使用客户控制的密钥加密的存储空间上运行。
• Limited safety signals: 当检测到风险时，OpenAI 会收到一个定义明确的信号（例如，可疑活动类型），这可以触发执行决策，而无需暴露底层提示词 (prompts) 或响应。
• Customer‑led investigation: 警报和执行结果仅在客户的系统中可见；客户可以选择与 OpenAI 进行申诉或滥用调查，并分享相关细节。
• Early‑customer testing: 该功能目前正在针对部分选定客户进行试点，技术白皮书计划于 9 月发布。

Customer collaboration and trust

• Principles‑driven development: 该计划与 OpenAI 声明的原则一致，即 AI 安全需要与外部合作伙伴协作。

• Industry‑specific sensitivity: 参与者处理的是高度机密的数据，如财务记录、健康信息和专有研究，这使得数据控制权对于监管合规性和竞争优势至关重要。

• Enterprise endorsement: Sunil Agrawal, CISO of Glean, stated that “Enterprise AI adoption depends solely on customer control of data… OpenAI’s no‑training commitment and ZDR give Glean confidence to build with OpenAI.”

Next steps and rollout plan

• September rollout: OpenAI 意图于 9 月开始更广泛的部署 Private Safety Processing，并发布详细的技术白皮书。
• Complexity of tasks: 随着模型处理的任务变得更长、更复杂，跨调用之间的上下文信息对于区分合法使用与滥用变得至关重要。
• Ongoing communication: 客户将收到定期更新，以及关于新系统如何与现有承诺的解释，以及规划与集成方面的支持。
• Feedback loop: OpenAI 将继续纳入客户反馈，以完善完善隐私保护型安全方法的技术和运营层面的细节。