Amazon Bedrock 中代理的有狀態執行環境

TL;DR

OpenAI 與 Amazon 推出了可在 Amazon Bedrock 原生運行的有狀態執行環境。此環境讓由 OpenAI 模型驅動的 AI 代理能在複雜的多步驟工作流程中保持持續的狀態與上下文，減輕開發者的編排負擔，並直接整合至 AWS 的安全與治理框架。

克服無狀態 API 的限制

生產等級的 AI 代理常因無狀態 API 而受限，這類 API 只能處理單一提示與回應。實際的商業工作流程——例如跨系統的客戶支援或內部 IT 自動化——需要代理記住先前的操作、依賴多個工具的輸出，並隨時間管理系統狀態。

過去，開發團隊必須自行構建編排層，以管理狀態儲存、工具呼叫、錯誤處理以及長時間任務的恢復。有狀態執行環境透過提供原生環境，讓代理自動攜帶記憶、歷史、工具狀態與身分界限，從而消除這些手動腳手架。

有狀態執行環境的核心功能

持續的編排與狀態

執行環境負責任務的持續編排，使代理能在「工作上下文」中執行複雜步驟。這讓多步驟工作流程的上線時間更快，團隊得以專注於業務邏輯，而非基礎設施的搭建。

支援長期任務

有狀態任務專為長時間可靠執行而設計，確保在執行長期任務的過程中，必要的上下文與控制邊界始終保持完整。

AWS 原生部署與治理

因為執行環境運行於客戶的 AWS 環境內，它能無縫整合現有的安全姿態、工具整合與治理規則，確保代理工作流程符合企業的安全標準。

生產使用案例

此環境的有狀態特性在多個複雜營運領域釋放了 AI 代理的效率：

• 跨系統客戶支援： 在不同軟體系統間管理互動以解決問題。
• 銷售營運工作流程： 自動化潛在客戶管理與銷售管道。
• 內部 IT 自動化： 簡化技術支援與系統管理。
• 金融流程： 執行需要嚴格批准與稽核追蹤的財務工作流程。

可用性

Amazon Bedrock 的有狀態執行環境即將推出。感興趣的客戶可透過其 OpenAI 團隊申請存取，或向供應商請求聯絡方式。