OpenAI Deep Research 系統卡

OpenAI 已推出 Deep Research,這是一種代理能力,旨在對複雜任務進行多步驟的網際網路研究。該系統基於早期版本的 OpenAI o3 模型(已優化以進行網頁瀏覽)驅動,Deep Research 利用推理來搜索、解釋和分析大量文字、圖像和 PDF,並根據其遇到的資訊調整搜尋策略。

技術能力與工具使用

  • 網頁瀏覽與分析: 系統可以搜索互聯網並分析大量文字、圖像和 PDF。它利用推理在發現新資訊時調整搜尋方向。
  • 資料分析: 系統可以透過編寫和執行 Python 程式碼來分析資料。
  • 使用者提供的檔案: 系統能夠讀取和處理使用者直接提供的檔案。

安全測試與風險緩解

在針對 Pro 使用者發布之前,OpenAI 進行了嚴格的安全測試、Preparedness 評估和治理審查。由於 Deep Research 瀏覽網頁的能力會帶來特定的增量風險,OpenAI 在兩個主要領域實施了額外的緩解措施:

  • 隱私保護: OpenAI 加強了對線上發布的個人資訊的保護。
  • 指令抵抗: 模型經過訓練,以抵抗在搜索互聯網時可能遇到的惡意指令(間接提示注入)。

評估與部署策略

OpenAI 使用其既定的 Preparedness Framework 評估系統的能力與風險。在擴大發布之前,公司進行了進一步的人工探針和自動測試,以針對特定風險改進其測試方法,基於初步評估的發現。

Sources