OpenAI Zero Data Retention and Private Safety Processing announcement

TL;DR

OpenAI 為符合資格的 API 客戶推出了 Zero Data Retention (ZDR)，保證在處理完畢後不會儲存提示詞 (prompts) 與模型回應，並預覽了 Private Safety Processing，該功能可以在不讓 OpenAI 人員存取底層數據的情況下，偵測跨互動的風險模式。

Zero Data Retention (ZDR) guarantees

• No prompt or response storage: OpenAI 在請求完成後不會保留任何客戶內容。
• No internal review access: OpenAI 人員無法進行手動檢查客戶數據。
• No training use without opt‑in: 除非客戶明確選擇貢獻，否則企業數據不會被用於模型訓練。
• Customer‑controlled infrastructure: 對於 ZDR 部署，所有內容都保留在客戶擁有的基礎設施上。
• Encrypted OpenAI storage option: OpenAI 正在開發一種儲存方案，數據會使用僅由客戶控制的密鑰進行加密，防止 OpenAI 工作人員解密內容。

Why safety systems must evolve

• Multi‑interaction risk: 有害意圖通常只有在同時檢查多次互動時才會顯現，例如協同探測防護措施，或代理 (agents) 在被告知停止後繼續執行動作。
• Longer, more complex tasks: 隨著模型處理更長的任務，跨呼叫的上下文資訊對於區分合法使用與濫用變得至關重要。
• Conflict with security obligations: 先前的某些前沿模型 (frontier‑model) 部署要求提供者保留內容以進行安全監控，這與許多組織的法規與信任要求相衝突。

Private Safety Processing overview

• Pattern detection without data retention: 將現有的 ZDR 安全機制擴展到分析相關互動的序列，同時保持原始內容對 OpenAI staff 保持不可存取性。
• Works with any storage location: 可在客戶自有的基礎設施上儲存的數據，或在 OpenAI 提供的、使用客戶控制的密鑰加密的儲存空間上運作。
• Limited safety signals: 當偵測到風險時，OpenAI 會收到一個定義狹窄的信號 (例如：可疑活動的類型)，這可以觸發執行決策，而不會暴露底層的提示詞或回應。
• Customer‑led investigation: 警報與執行結果僅在客戶的系統內可見；客戶可以選擇與 OpenAI 進行申訴或濫用調查時分享相關細節。
• Early‑customer testing: 該功能目前正由部分選定的客戶進行試點，技術白皮書預計於 9 月發布。

Customer collaboration and trust

• Principles‑driven development: 此倡議與 OpenAI 聲明的原則一致，即 AI 安全需要與外部夥伴進行協作。
• Industry‑specific sensitivity: 參與者處理的是高度機密的數據，例如財務記錄、健康資訊與專有研究，這使得數據控制對於法規遵循與競爭優勢至關重要。
• Enterprise endorsement: Glean 的 CISO Sunil Agrawal 表示：「企業級 AI 的採用完全取決於客戶對數據的控制權……OpenAI 的不訓練承諾與 ZDR 為 Glean 提供了使用 OpenAI 進行開發的信心。"

Next steps and rollout plan

• September rollout: OpenAI 預計於 9 月開始更廣泛地部署 Private Safety Processing，並發布詳細的技術白皮書。
• Customers will receive regular updates, how the new system interacts with existing commitments, and support for planning and integration.: 客戶將會收到定期更新、關於新系統如何與現有承諾互動的說明，以及規劃與整合的支援。
• Feedback loop: OpenAI 將會持續納入客戶意見，以完善技術與運作層面的隱私保護安全方法。