OpenAI 新工具用於建構代理
OpenAI 已推出一組新的 API 和工具,旨在簡化可靠、生產就緒 AI 代理的開發。這些工具透過提供標準化的建構塊來解決開發者常見的挑戰,例如廣泛的提示迭代和複雜的自訂編排邏輯,以用於代理應用。
Responses API:新的代理原始體
Responses API 是一種新的 API 原始體,結合了 Chat Completions API 的簡潔性與 Assistants API 的工具使用能力。它允許開發者在單次 API 呼叫中使用多種工具和模型輪次來解決複雜任務。
主要功能與整合
- 統一設計:該 API 採用基於項目的設計,具備更簡單的多態性和直觀的串流事件。
- 開發者輔助:包含如
response.output_text的 SDK 輔助函式,以便更易於存取模型文字輸出。 - 資料儲存:支援在 OpenAI 上儲存資料,以透過追蹤和評估促進效能評估,同時預設不將業務資料用於模型訓練。
- API 關係:Responses API 是 Chat Completions API 的超集。雖然 Chat Completions 仍支援不需要內建工具的使用者,但 OpenAI 建議新增整合時使用 Responses API。
從 Assistants API 過渡
OpenAI 正致力於實現 Responses API 與 Assistants API 的完全功能對等,包括支援 Code Interpreter 和類似 Thread 的物件。一旦達成對等,Assistants API 將被正式廢止,目標停用日期為 2026 年中。
內建代理工具
Responses API 引入了三種主要的內建工具,用於將模型連接到真實世界的資料與介面。
網頁搜尋
網頁搜尋提供快速且最新的答案,並帶有內嵌引用。它適用於 gpt-4o 和 gpt-4o-mini,並使用與 ChatGPT 搜尋相同的模型驅動。
- 效能:在 SimpleQA 基準測試中,GPT-4o 搜尋預覽版得分 90%,GPT-4o mini 搜尋預覽版得分 88%。
- 可用性:在 Responses API 中以預覽版提供,並可透過 Chat Completions API 中的
gpt-4o-search-preview和gpt-4o-mini-search-preview直接存取經微調的搜尋模型。
檔案搜尋
檔案搜尋工具支援多種檔案類型、查詢優化、中資料過濾及自訂重新排名,使得從大量文件中檢索資訊成為可能。
- 使用案例:Navan 透過 RAG 管線利用檔案搜尋,從公司旅遊政策知識庫文章中提供精確答案。
- 定價:每千次查詢收費 2.50 美元,檔案儲存費用為 0.10 美元/GB/天(首 GB 免費)。
電腦使用
此工具由 Computer-Using Agent (CUA) 模型驅動,使代理能夠捕捉滑鼠與鍵盤動作以自動化電腦任務。
- 基準測試:CUA 模型在 OSWorld 上成功率 38.1%,在 WebArena 上成功率 58.1%,在 WebVoyager 上成功率 87%。
- 安全與可靠性:由於在 OSWorld 上的成功率僅 38.1%,OpenAI 建議在非瀏覽器環境中加入人工監督。安全緩解措施包括防止提示注入的防護、敏感任務的确認提示以及環境隔離工具。
Agents SDK 用於編排
OpenAI 已發布開源 Agents SDK,以簡化單代理和多代理工作流程的編排。此 SDK 是實驗性 Swarm SDK 的演進。
核心功能
- 代理:具體指令與工具的可設定 LLM。
- 交接:在代理間智慧轉移控制的機制。
- 防護欄:用於輸入與輸出驗證的可設定安全檢查。
- 可觀測性:整合的追蹤工具,用於視覺化和除錯代理執行。
實作範例
- Coinbase:使用該 SDK 建置 AgentKit,使 AI 代理能夠與加密貨幣錢包和鏈上活動互動。
- Box:建構結合網頁搜尋與內部非結構化資料的代理,為企業提供安全且具權限感知的洞見。
相容性
該 SDK 支援 Responses API 與 Chat Completions API,並與其他提供者提供 Chat Completions 風格 API 端點的模型相容。目前僅提供 Python 版本,Node.js 支援規劃中。
Sources
- OriginalNew tools for building agents