Ada 客户服务自动化与 GPT-4

Ada 已将其 AI 原生客户服务平台迁移到由 OpenAI 的 GPT-4 提供动力的基于推理的架构,从而实现了自动化解决率的翻倍。通过将主要绩效指标从“containment rate(保留率)”转向“resolution rate(解决率)”,Ada 在保持高自动化水平的同时提升了真实的客户体验。

从保留率到解决率的指标转变

Ada 引入了“解决率”作为优于行业标准“保留率”的指标。保留率仅衡量客户询问是否由聊天机器人处理而未转接人工,但并未考虑客户的问题是否真正得到解决。

为实现此目标,Ada 使用 GPT-4 和历史数据开发了评估框架,以根据客户是否收到相关、准确且安全的回复来评估对话。该自动评估系统与人工评审的意见一致率达到 80%–90%。

技术实现与模型选择

Ada 使用由 OpenAI API 驱动的多代理配置,包含一个中心规划代理和多个子代理。每个客户查询都会经历多轮处理——包括理解、反思、工具调用和知识检索——随后生成最终答案。

Ada 基于三大技术驱动因素选择了 OpenAI 的模型:

  • 推理质量: 通过模拟数十万客户的合成测试框架,Ada 发现 OpenAI 模型在其评估集上始终优于其他主要模型。
  • 延迟: 在实时语音使用场景中,Ada 报告采用 GPT-4o 后在质量和延迟方面都有显著提升。
  • 幻觉控制: Ada 使用 OpenAI 的微调 API 生成关于响应中出现幻觉可能性的置信分数,从而在其工具链中最大限度地降低不准确性。

对解决率和投资回报率的影响

转向基于大语言模型的架构显著提升了无需人工干预即可解决的查询比例。之前版本的 Ada 产品保持 70% 的保留率,但仅有 30% 的解决率;新系统在保持相似保留率的同时,解决率通常提升至 60%,顶级客户甚至超过 80%。

解决率的提升通过以下方式直接影响投资回报率(ROI):

  • 全职等效(FTE)节省。
  • 提升客户满意度和留存率。
  • 新注册用户增加。

AI 自动化的未来展望

Ada 的目标是实现 100% 的解决率,视此目标为“何时实现,而非是否实现”。公司在未来 12 个月将重点提升产品透明度,并为客户提供更多控制杠杆,以便像管理人工客服一样对 AI 代理进行上线、衡量和指导。

Sources