OpenAI 构建 AI 智能体实用指南
OpenAI 发布了一份面向产品与工程团队的实用指南，旨在构建 AI 智能体——这类系统能够利用大语言模型进行推理、决策和工具执行，从而独立完成多步骤任务。与简单聊天机器人不同，智能体可管理整个工作流，并能主动纠正自身行为，或在失败时将控制权交还给用户。
何时部署 AI 智能体
在传统基于规则的确定性自动化因复杂性或模糊性而失效的场景中，智能体最为有效。OpenAI 指出了智能体工作流的三大主要用例：
- 复杂决策： 需要细致判断或依赖上下文的决策任务，例如客服中的退款审批。
- 难以维护的规则： 规则集复杂且更新成本高或易出错的系统，例如供应商安全审查。
- 高度依赖非结构化数据： 涉及自然语言理解或文档提取的工作流，例如处理保险索赔。
智能体设计基础
智能体由三个核心组件构成：用于推理的模型、用于外部交互的工具，以及用于行为指导的指令。
模型选择策略
OpenAI 推荐采用三步法来优化性能、成本和延迟：
- 建立基线： 使用能力最强的模型来确定最大性能潜力。
- 达到准确率目标： 首先专注于使用高能力模型达到所需准确率。
- 优化： 在性能可接受的前提下，用更小、更快的模型替换大型模型。
工具集成
工具允许智能体通过 API 或用于传统界面的计算机使用模型与外部系统交互。OpenAI 将工具分为三类：
| 工具类型 | 描述 | 示例 |
|---|---|---|
| 数据 | 检索上下文和信息 | 查询 CRM、读取 PDF、网络搜索 |
| 操作 | 与系统交互以修改状态 | 发送电子邮件、更新记录、工单移交 |
| 编排 | 作为其他智能体工具的智能体 | 专门的研究或写作智能体 |
指令配置
为减少歧义并提高可靠性，指令应遵循以下最佳实践：
- 利用现有文档： 将流程映射到现有操作程序或支持脚本。
- 分解任务： 将密集资源拆分为更小、更清晰的步骤。
- 定义明确操作： 确保每个步骤对应特定的输出或 API 调用。
- 预判边界情况： 为信息不完整或意外用户查询包含条件分支。
编排模式
OpenAI 建议采用渐进式编排方法，从单智能体系统开始，再过渡到多智能体架构。
单智能体系统
单个智能体在循环（“运行”）中操作，直到满足退出条件，例如调用最终输出工具或直接响应用户。为在不增加智能体数量的情况下管理复杂性，开发者可使用带策略变量的提示模板，将单个基础提示适配到各种上下文。
多智能体系统
当单个智能体无法遵循复杂指令或难以应对“工具过载”（过多重叠或相似工具）时，建议使用多智能体系统。识别出两种主要模式：
- 管理器模式（智能体即工具）： 中央管理器智能体通过工具调用协调专门智能体，将结果整合为统一的用户体验。这适用于需要中央控制的场景。
- 去中心化模式（移交）： 智能体作为对等体运行，并通过“移交”函数将执行权相互转移。这最适合对话分流场景，由专门智能体完全接管交互。
护栏与安全
护栏应作为分层防御机制实施，以管理隐私和声誉风险。OpenAI 的 Agents SDK 采用“乐观执行”，即智能体生成输出时护栏并发运行，若违反约束则触发异常。
护栏类型
- 相关性分类器： 标记离题查询，使智能体保持在范围内。
- 安全分类器： 检测越狱和提示注入。
- PII 过滤器： 审查输出以防止个人身份信息泄露。
- 审核： 使用 OpenAI 审核 API 标记仇恨言论或骚扰内容。
- 工具保障： 根据影响和可逆性为工具分配风险等级（低、中、高），对高风险操作触发人工升级。
- 基于规则的保护： 使用正则表达式、黑名单和字符限制应对确定性威胁。
- 输出验证： 确保响应符合品牌价值观。
人工干预
人机协同机制对于早期部署和高风险任务至关重要。以下情况应升级给人工处理：
- 失败阈值： 当智能体超过设定重试次数或无法理解意图时。
- 高风险操作： 不可逆或敏感操作，例如授权大额退款或进行支付。
SUMMARY: OpenAI 提供了一个全面的 AI 智能体开发框架，强调在模型选择、工具集成、编排模式和分层防护栏方面采用迭代方法。
TITLE: OpenAI 构建 AI 智能体实用指南