OpenAI 新工具用於建構代理

OpenAI 已推出一組新的 API 和工具,旨在簡化可靠、生產就緒 AI 代理的開發。這些工具透過提供標準化的建構塊來解決開發者常見的挑戰,例如廣泛的提示迭代和複雜的自訂編排邏輯,以用於代理應用。

Responses API:新的代理原始體

Responses API 是一種新的 API 原始體,結合了 Chat Completions API 的簡潔性與 Assistants API 的工具使用能力。它允許開發者在單次 API 呼叫中使用多種工具和模型輪次來解決複雜任務。

主要功能與整合

  • 統一設計:該 API 採用基於項目的設計,具備更簡單的多態性和直觀的串流事件。
  • 開發者輔助:包含如 response.output_text 的 SDK 輔助函式,以便更易於存取模型文字輸出。
  • 資料儲存:支援在 OpenAI 上儲存資料,以透過追蹤和評估促進效能評估,同時預設不將業務資料用於模型訓練。
  • API 關係:Responses API 是 Chat Completions API 的超集。雖然 Chat Completions 仍支援不需要內建工具的使用者,但 OpenAI 建議新增整合時使用 Responses API。

從 Assistants API 過渡

OpenAI 正致力於實現 Responses API 與 Assistants API 的完全功能對等,包括支援 Code Interpreter 和類似 Thread 的物件。一旦達成對等,Assistants API 將被正式廢止,目標停用日期為 2026 年中。

內建代理工具

Responses API 引入了三種主要的內建工具,用於將模型連接到真實世界的資料與介面。

網頁搜尋

網頁搜尋提供快速且最新的答案,並帶有內嵌引用。它適用於 gpt-4ogpt-4o-mini,並使用與 ChatGPT 搜尋相同的模型驅動。

  • 效能:在 SimpleQA 基準測試中,GPT-4o 搜尋預覽版得分 90%,GPT-4o mini 搜尋預覽版得分 88%。
  • 可用性:在 Responses API 中以預覽版提供,並可透過 Chat Completions API 中的 gpt-4o-search-previewgpt-4o-mini-search-preview 直接存取經微調的搜尋模型。

檔案搜尋

檔案搜尋工具支援多種檔案類型、查詢優化、中資料過濾及自訂重新排名,使得從大量文件中檢索資訊成為可能。

  • 使用案例:Navan 透過 RAG 管線利用檔案搜尋,從公司旅遊政策知識庫文章中提供精確答案。
  • 定價:每千次查詢收費 2.50 美元,檔案儲存費用為 0.10 美元/GB/天(首 GB 免費)。

電腦使用

此工具由 Computer-Using Agent (CUA) 模型驅動,使代理能夠捕捉滑鼠與鍵盤動作以自動化電腦任務。

  • 基準測試:CUA 模型在 OSWorld 上成功率 38.1%,在 WebArena 上成功率 58.1%,在 WebVoyager 上成功率 87%。
  • 安全與可靠性:由於在 OSWorld 上的成功率僅 38.1%,OpenAI 建議在非瀏覽器環境中加入人工監督。安全緩解措施包括防止提示注入的防護、敏感任務的确認提示以及環境隔離工具。

Agents SDK 用於編排

OpenAI 已發布開源 Agents SDK,以簡化單代理和多代理工作流程的編排。此 SDK 是實驗性 Swarm SDK 的演進。

核心功能

  • 代理:具體指令與工具的可設定 LLM。
  • 交接:在代理間智慧轉移控制的機制。
  • 防護欄:用於輸入與輸出驗證的可設定安全檢查。
  • 可觀測性:整合的追蹤工具,用於視覺化和除錯代理執行。

實作範例

  • Coinbase:使用該 SDK 建置 AgentKit,使 AI 代理能夠與加密貨幣錢包和鏈上活動互動。
  • Box:建構結合網頁搜尋與內部非結構化資料的代理,為企業提供安全且具權限感知的洞見。

相容性

該 SDK 支援 Responses API 與 Chat Completions API,並與其他提供者提供 Chat Completions 風格 API 端點的模型相容。目前僅提供 Python 版本,Node.js 支援規劃中。

Sources