Kinney Drugs AI 电话助手回退

Kinney Drugs 在关键故障后缩减 AI 助手规模

由于其 AI 助手 "Burt" 产生了数百起客户投诉，Kinney Drugs 正在将其呼入患者电话系统恢复为传统的按键式模型。该连锁药房报告称，AI 助手在关键领域表现失败，包括提供错误的药物剂量、给出语无伦次的回复以及遗漏处方通知。

虽然公司将保留 Burt 用于外呼通信——例如处方续订短信——但这些服务现在需要患者明确选择加入。

"Burt" AI 的技术与运营故障

Burt 于 2026 年 5 月推出，旨在处理有关续订和处方的患者通信。然而，该实施过程导致了严重的可靠性问题，损害了患者安全和用户体验。

关键错误与用户体验

客户报告称，该 AI 无法处理药房交互的复杂性，导致：

• 医疗准确性问题： 机器人向患者提供了错误的剂量信息。
• 沟通中断： 通话被描述为语无伦次，使患者难以获取必要的健康信息。
• 通知失败： 系统遗漏了关键的处方通知。

隐私与合规性声明

针对客户对个人健康信息泄露的担忧，Kinney Drugs 总裁 John Marraffa 表示，该系统完全符合 HIPAA 合规性。Marraffa 进一步声称，该 AI 不是开源的，且 "does not generate or manipulate data"，尽管这一说法遭到了技术观察者的质疑，他们指出生成式 AI，根据定义，就是生成输出。

医疗保健行业对语音 AI 的看法

Burt 助手的失败凸显了推动 AI 自动化与在药房等高风险环境中对领域专业知识的需求之间的广泛紧张关系。

领域专业知识的作用

行业内部人士建议，虽然 AI 智能体技术已经存在，但主要的瓶颈在于实施和特定领域的知识。一家药房 AI 供应商指出，成功的部署需要聘请药剂师作为项目经理，以确保 AI 理解该行业的关键细微差别。

高风险使用场景

分析师和工程师认为，由于以下几个因素，药房电话线路本质上是语音 AI 的一个糟糕的首选使用场景：

• 用户群体特征： 大量老年呼叫者，他们可能对 AI 界面缺乏耐心。
• 数据复杂性： 准确处理复杂的药物名称和保险详情的难度。
• 对错误的零容忍度： 与普通客户服务不同，药物剂量的错误可能会导致生命威胁。

社群批评综合

技术专业人士之间的讨论表明，Kinney Drugs 事件是领导层优先考虑成本削减而非客户体验的“短期决策”这一更大趋势的一部分。

"Companies will pawn off their customers to AI at their peril. In many ways this is a repeat of the India call center train wrecks of the 00s... AI is just that story of shortsighted decisions by weak leadership playing out all over again."

其他批评者认为，对于区域性药房，人性化的个人服务是其主要的竞争优势，而这种优势在被自动化取代时会被削弱。此外，还有一种普遍观点认为，许多公司正在部署“权宜之计”式的 LLM 实施方案，这些方案在生产环境中尚无法提供可重复、特定的结果。