AI在客户支持中的伦理：关于人类问责制的案例

AI生成的客户服务带来的摩擦日益增加

自动化客户支持系统正越来越多地被视为一种不尊重的表现，这表明组织将自身的效率置于客户的时间和真实关切之上。当公司部署基于LLM的响应来处理复杂的投诉时，由此产生的“谄媚式认同”和通用、润色过的文字往往无法让客户确信有人真正参与并处理了他们的问题。

“伪人类”沟通的问题

现代AI生成的响应通常表现出特定的风格标记——例如过度使用破折号以及缺乏真实、杂乱的人类语法——这使得敏锐的用户很容易识别出它们。这造成了一种心理上的脱节：当用户提交一份详细的技术错误报告时，收到一份通用的、由AI撰写的回复会让人感觉被忽视了。核心问题不一定在于使用自动化进行分类，而在于对同理心的伪装。正如一位观察者所指出的，公司提供明显的自动化回复，要比承诺人类同理心却假装关注更为诚实。

关于人机交互的辩论

关于响应的来源是否比底层问题的解决更重要，目前存在重大分歧。一些人认为，只要技术问题得到解决，沟通的性质就无关紧要。相反，另一些人则坚持认为，“人性”将成为公司关键的营销优势。在充斥着AI生成内容的市场环境中，提供真正的人类参与能力正日益被视为一种优质服务。

社区对AI抵制的观点

围绕这一话题的讨论揭示了用户在未来如何期望与机构互动方面的分歧：

"我很高兴有人在做这件事……我觉得我们有一个短暂的窗口期，因为我们正在从文化上决定什么是粗鲁的：向人们发送没有明确来源的LLM生成的文字，或者伪装成人类撰写的文字。"

"AI写作的潜移默化正在让人越来越难以分辨差异。我发现自己写的东西听起来像AI，这让我非常恼火。"

"我希望我的AI能处理所有的官僚主义，所有需要解决的日常问题……这样我就再也不用亲自处理这些破事了。"

归根结底，这种张力存在于那些将AI视为卸载官僚劳动工具的人，与那些担心沟通的全面自动化将侵蚀客户服务社会契约的人之间。随着技术的进步，人与机器之间的界限可能会进一步模糊，迫使社会决定“人情味”是问责制的必要组成部分，还是仅仅是一种怀旧的偏好。