OpenAI Deep Research 系统卡片

OpenAI 已推出 Deep Research,这是一种旨在为复杂任务执行多步骤互联网研究的代理式能力。Deep Research 由 OpenAI o3 模型的早期版本驱动,该版本针对网页浏览进行了优化,Deep Research 利用推理来搜索、解释和分析大量文本、图像和 PDF,并根据遇到的信息调整其搜索策略。

技术能力和工具使用

Deep Research 旨在通过整合几项关键能力来处理复杂的研究工作流程:

  • 网页浏览与分析: 系统可以搜索互联网并分析大量文本、图像和 PDF。它利用推理在发现新信息时调整搜索方向。
  • 数据分析: 系统可以通过编写和执行 Python 代码来分析数据。
  • 用户提供的文件: 系统能够读取和处理用户直接提供的文件。

安全测试与风险缓解

在向 Pro 用户发布之前,OpenAI 进行了严格的安全测试、Preparedness 评估和治理审查。由于 Deep Research 的网页浏览能力会带来特定的增量风险,OpenAI 在两个主要领域实施了额外的缓解措施:

  • 隐私保护: OpenAI 加强了对在线发布的个人信息的保护。
  • 指令抵抗: 模型经过训练,能够抵御在互联网搜索过程中可能遇到的恶意指令(间接提示注入)。

评估与部署策略

OpenAI 使用其既定的 Preparedness 框架来评估系统的能力和风险。在扩大发布之前,公司进行了进一步的人工探测和自动化测试,以针对特定风险改进其测试方法,基于初步评估的发现。

Sources