Amazon Bedrock 中的 Agent 有状态运行时环境

TL;DR

OpenAI 和 Amazon 已推出一种在 Amazon Bedrock 中原生运行的有状态运行时环境。该环境允许由 OpenAI 模型驱动的 AI Agent 在复杂的、多步骤的工作流中保持持久的状态和上下文，从而减轻了开发者的编排负担，并直接集成到 AWS 的安全和治理框架中。

克服无状态 API 的局限性

生产级 AI Agent 通常受限于无状态 API，这些 API 仅处理单个提示词和响应。现实世界的业务工作流——例如多系统客户支持或内部 IT 自动化——需要 Agent 能够记住之前的操作、依赖多个工具的输出，并随着时间的推移管理系统状态。

此前，开发团队负责构建编排层，以管理状态存储、工具调用、错误处理以及长时间运行任务的恢复。有状态运行时环境通过提供一个原生环境，使 Agent 能够自动携带记忆、历史记录、工具状态和身份边界，从而消除了这种手动搭建脚手架的工作。

有状态运行时环境的核心能力

持久化编排与状态

运行时处理任务的持久化编排，允许 Agent 使用“工作上下文”执行复杂的步骤。这通过让团队专注于业务逻辑而非基础设施脚手架，从而缩短了多步骤工作流的上线时间。

支持长周期工作

有状态任务专门设计用于随时间可靠地运行，确保在执行长周期任务的过程中，始终保持必要的上下文和控制边界。

AWS 原生部署与治理

由于运行时在客户的 AWS 环境中运行，它可以与现有的安全态势、工具集成和治理规则无缝集成，从而确保 Agent 工作流符合公司的安全标准。

生产环境使用案例

该环境的有状态特性在多个复杂的运营领域释放了 AI Agent 的效率：

• 多系统客户支持： 管理跨不同软件系统的交互以解决问题。

• 销售运营工作流： 自动化潜在客户管理和销售流水线。

• 内部 IT 自动化： 精简技术支持和系统管理。

• 财务流程： 执行需要严格审批和审计追踪的财务工作流。

可用性

Amazon Bedrock 中的有状态运行时即将推出。感兴趣的客户可以通过其 OpenAI 团队或通过向供应商请求联系来申请访问权限。