OpenAI 构建 AI 智能体实用指南
OpenAI 发布了一份面向产品和工程团队的实用指南，指导如何构建 AI 智能体——即通过利用大语言模型进行推理、决策和工具执行，能够独立完成多步骤任务的系统。与简单的聊天机器人不同，智能体管理整个工作流程，并且能够主动纠正自身行为或在失败时将控制权交还给用户。
何时部署 AI 智能体
在传统确定性、基于规则的自动化因复杂性或模糊性而失效的场景中，智能体最为有效。OpenAI 确定了智能体工作流的三个主要用例：
- 复杂决策： 需要细致判断或依赖上下文的决策任务，例如客户服务中的退款审批。
- 难以维护的规则： 规则集复杂且更新成本高或容易出错的系统，例如供应商安全审查。
- 高度依赖非结构化数据： 涉及自然语言理解或文档提取的工作流，例如处理保险索赔。
智能体设计基础
一个智能体由三个核心组件构成：用于推理的模型、用于外部交互的工具以及用于行为指导的指令。
模型选择策略
OpenAI 推荐采用三步法来优化性能、成本和延迟：
- 建立基线： 使用能力最强的可用模型来确定最大性能潜力。
- 达到准确率目标： 首先专注于使用高能力模型实现所需的准确率。
- 优化： 在性能可接受的情况下，用更小、更快的模型替换较大的模型。
工具集成
工具允许智能体通过 API 或用于传统用户界面的计算机使用模型与外部系统交互。OpenAI 将工具分为三类：
| 工具类型 | 描述 | 示例 |
|---|---|---|
| 数据 | 检索上下文和信息 | 查询 CRM、读取 PDF、网络搜索 |
| 操作 | 与系统交互以修改状态 | 发送电子邮件、更新记录、工单移交 |
| 编排 | 作为其他智能体的工具使用的智能体 | 专门的研究或写作智能体 |
指令配置
为减少歧义并提高可靠性，指令应遵循以下最佳实践：
- 利用现有文档： 将流程映射到现有的操作程序或支持脚本。
- 分解任务： 将密集的资源分解为更小、更清晰的步骤。
- 定义明确操作： 确保每个步骤对应一个特定的输出或 API 调用。
- 预判边缘情况： 为信息不完整或意外用户查询包含条件分支。
编排模式
OpenAI 建议采用增量式的编排方法，先从单智能体系统开始，然后再转向多智能体架构。
单智能体系统
单个智能体在一个循环（“运行”）中运行，直到满足退出条件，例如调用最终输出工具或直接响应用户。为了在不增加更多智能体的情况下管理复杂性，开发人员可以使用带有策略变量的提示模板，将单个基础提示适应各种上下文。
多智能体系统
当单个智能体无法遵循复杂指令或难以应对“工具过载”（过多重叠或相似的工具）时，建议使用多智能体系统。确定了两种主要模式：
- 管理器模式（智能体即工具）： 中央管理器智能体通过工具调用协调专门的智能体，并将结果综合为统一的用户体验。当需要保持中央控制时，这种模式是理想选择。
- 去中心化模式（交接）： 智能体作为对等体运行，并通过“交接”功能将执行权相互转移。这对于对话分流是最佳的，专门的智能体完全接管交互。
护栏与安全
护栏应作为分层防御机制实施，以管理隐私和声誉风险。OpenAI 的 Agents SDK 利用“乐观执行”，即智能体生成输出时护栏同时运行，如果违反约束则触发异常。
护栏类型
- 相关性分类器： 标记偏离主题的查询，使智能体保持在范围内。
- 安全分类器： 检测越狱和提示注入。
- PII 过滤器： 审查输出以防止个人身份信息泄露。
- 审核： 使用 OpenAI 审核 API 标记仇恨言论或骚扰内容。
- 工具保障措施： 根据影响和可逆性为工具分配风险等级（低、中、高），对高风险操作触发人工升级。
- 基于规则的保护： 使用正则表达式、黑名单和字符限制来应对确定性威胁。
- 输出验证： 确保响应符合品牌价值观。
人工干预
人机回环机制对于早期部署和高风险任务至关重要。升级给人工的触发条件包括：
- 失败阈值： 当智能体超过设定的重试次数或无法理解意图时。
- 高风险操作： 不可逆或敏感的操作，例如授权大额退款或进行支付。
防护栏与安全
防护栏应作为分层防御机制实施，以管理隐私和声誉风险。OpenAI 的 Agents SDK 采用“乐观执行”，即智能体生成输出的同时防护栏并发运行，如果违反约束则触发异常。
防护栏类型
- 相关性分类器： 标记离题查询，使智能体保持在范围内。
- 安全分类器： 检测越狱和提示注入。
- PII 过滤器： 审查输出以防止个人身份信息泄露。
- 审核： 使用 OpenAI 审核 API 标记仇恨言论或骚扰内容。
- 工具保障： 根据影响和可逆性为工具分配风险等级（低、中、高），对高风险操作触发人工升级。
- 基于规则的保护： 使用正则表达式、黑名单和字符限制来应对确定性威胁。
- 输出验证： 确保响应符合品牌价值观。
人工干预
人机回环机制对于早期部署和高风险任务至关重要。升级给人工的触发条件包括：
- 失败阈值： 当智能体超过设定的重试次数或无法理解意图时。
- 高风险操作： 不可逆或敏感的操作，例如授权大额退款或进行支付。
防护措施与安全性
防护措施应作为分层防御机制实施，以管理隐私和声誉风险。OpenAI 的 Agents SDK 利用“乐观执行”，即智能体生成输出时防护措施并发运行，如果违反约束则触发异常。
防护措施类型
- 相关性分类器： 标记离题查询，使智能体保持在范围内。
- 安全分类器： 检测越狱和提示注入。
- PII 过滤器： 审查输出以防止个人身份信息泄露。
- 审核： 使用 OpenAI 审核 API 标记仇恨言论或骚扰内容。
- 工具保障： 根据影响和可逆性为工具分配风险等级（低、中、高），对高风险操作触发人工升级。
- 基于规则的保护： 使用正则表达式、黑名单和字符限制来应对确定性威胁。
- 输出验证： 确保响应符合品牌价值观。
人工干预
人机协同机制对于早期部署和高风险任务至关重要。应通过以下方式触发升级给人工：
- 失败阈值： 当智能体超过设定的重试次数或无法理解意图时。
- 高风险操作： 不可逆或敏感的操作，例如授权大额退款或进行支付。
SUMMARY: OpenAI 提供了一个开发 AI 智能体的综合框架，强调在模型选择、工具集成、编排模式以及分层防护措施方面采用迭代方法。
TITLE: OpenAI 构建 AI 智能体实用指南