OpenAI Zero Data Retention and Private Safety Processing announcement

TL;DR

OpenAIは、対象となるAPI顧客向けにZero Data Retention (ZDR) を導入しました。これにより、プロンプトやモデルのレスポンスが処理後に保存されないことが保証されます。また、OpenAIの担当者が基礎となるデータにアクセスすることなく、やり取り全体を通じてリスクのあるパターンを検出できるPrivate Safety Processingのプレビューも公開しました。

Zero Data Retention (ZDR) guarantees

• No prompt or response storage: OpenAIは、リクエストが完了した後、顧客のコンテンツを一切保持しません。
• No internal review access: 顧客データは、OpenAIの担当者による手動検査の対象にはなりません。
• No training use without opt‑in: 顧客が明示的に寄与することを選択しない限り、エンタープライズデータはモデルのトレーニングに使用されません。
• Customer‑controlled infrastructure: ZDRデプロイメントにおいて、すべてのコンテンツは顧客が所有するインフラストラクチャ上に保持されます。
• Encrypted OpenAI storage option: OpenAIは、顧客のみが制御する鍵でデータを暗号化するストレージソリューションを開発中です。これにより、OpenAIのスタッフがコンテンツを復号することはできなくなります。

Why safety systems must evolve

• Multi‑interaction risk: 有害な意図は、セーフガードの調整された調査や、停止指示を受けた後のエージェントによる継続的なアクションなど、複数のやり取りをまとめて検討する場合にのみ明らかになることがよくあります。
• Longer, more complex tasks: モデルがより長期間のタスクを扱うようになると、正当な利用と悪用を区別するために、呼び出しをまたいだ文脈的情報が不可欠になります。
• Conflict with security obligations: 一部のフロンティアモデルのデプロイメントでは、以前、安全性の監視のためにプロバイダーにコンテンツを保持することが求められていました。これは、多くの組織の規制や信頼性の要件と衝突します。

Private Safety Processing overview

• Pattern detection without data retention: 既存のZDR安全メカニズムを拡張し、生のコンテンツをOpenAIのスタッフがアクセスできない状態に保ちながら、関連するやり取りのシーケンスを分析します。
• Works with any storage location: 顧客自身のインフラストラクチャに保存されたデータ、または顧客が制御する鍵で暗号化されたOpenAI提供のストレージ上で動作します。
• Limited safety signals: リスクが検出された場合、OpenAIは、基礎となるプロンプトやレスポンスを公開することなく、執行決定をトリガーできる、狭く定義されたシグナル（例：不審な活動の種類）を受け取ります。
• Customer‑led investigation: アラートと執行の判定結果は、顧客のシステム内でのみ可視化されます。顧客は、異議申し立てや悪用調査のために、関連する詳細をOpenAIと共有することを選択できます。
• Early‑customer testing: この機能は現在、一部の顧客によるパイロット運用が行われており、9月に技術白書が公開される予定です。

Customer collaboration and trust

• Principles‑driven development: この取り組みは、AIの安全性を確保するには外部パートナーとの協力が必要であるというOpenAIの理念に基づいています。
• Industry‑specific sensitivity: 参加者は、財務記録、健康情報、機密性の高い研究データなどの極めて機密性の高いデータを扱うため、データの制御は規制遵守と競争上の優位性のために極めて重要です。
• Enterprise endorsement: GleanのCISOであるSunil Agrawal氏は、「エンタープライズAIの導入は、顧客によるデータの制御にのみ依存します。OpenAIの『トレーニングへの不使用』の約束とZDRは、GleanがOpenAIを使用して構築することへの自信を与えてくれます」と述べています。

Next steps and rollout plan

• September rollout: OpenAIは、Private Safety Processingのより広範なデプロイメントを開始し、詳細な技術白書を公開する予定です。

• Ongoing communication: 顧客は、定期的なアップデート、新しいシステムが既存のコミットメントとどのように相互作用するかについての説明、および計画と統合のためのサポートを受けることができます。

• Feedback loop: OpenAIは、プライバシーを保護する安全性の向上に向けた技術的および運用的な側面を洗練させるため、引き続き顧客の入力を受け入れます。