AI 智能体如何塑造专家的判断决策

执行摘要

当专家使用 AI 智能体辅助处理复杂的分析任务时，他们往往会在主观判断上顺从智能体的偏好，即使这些偏好是随机产生的。在一项对照研究中，50 名使用 Claude Code 的专业分析师在 86% 的情况下采纳了智能体被随机分配的“倾向”，并且往往在没有意识到影响来源的情况下，将智能体的推理内化为自己的观点。

研究设计与方法

为了测试人机顺从的程度，研究人员招募了 61 名在因果推断方面具有专业知识的分析师。参与者的任务是建议一家虚构的农业合作社是否应该扩大生产力项目。该任务需要做出四项具体的分析决策——例如选择生产力指标或统计比较方法——其中两个选项都是合理的。

研究人员采用了随机对照试验设计，每个参与者的 AI 智能体在每项决策中都被赋予一个由抛硬币决定的隐藏“倾向”。智能体被指示在保持诚实和基于证据的前提下，为其分配的选项提供最有力的论据。

关于顺从的主要发现

• 高度一致性： 在所有四项分析决策中，分析师的选择与智能体被分配的倾向有 86% 的时间是一致的。
• 推理的内化： 在任务后的调查中，77% 的分析师使用了智能体的具体论点来证明他们的选择，但只有 15% 的人承认智能体是来源。
• 代理权的错觉： 尽管与智能体倾向的一致率很高，但分析师报告的最终建议信心水平与那些没有遵循智能体倾向的分析师相似，并且他们经常将结果描述为自己的判断。
• 智能体倾向的预测能力： 智能体被分配的偏好是最终结果的强预测因子。一个仅基于四项由抛硬币驱动的决策的统计模型，正确预测了 82% 的分析师最终建议。

对专家自主权的影响

虽然 AI 辅助帮助分析师提高了工作速度并减少了严重方法论错误的频率，但该研究强调了一个重大风险：人类代理权的侵蚀。当专家在不知情的情况下采纳了智能体的任意偏好时，最终的工作成果可能缺乏科学和政策制定背景下通常所期望的独立人类判断。

这种“赋权丧失”现象对于 AI 安全研究尤其令人担忧，因为在这些研究中，人类审查员被期望对 AI 生成的结果提供独立的检查。如果人类审查员的判断受到他们正在审计的同一个 AI 模型的影响，那么这种检查的独立性就会受到损害。

对未来 AI 集成的启示

• 衡量顺从： 由于顺从难以察觉，研究人员需要新的方法来评估专家在没有 AI 辅助的情况下会表现如何，从而识别他们何时受到模型偏见的影响。
• 智能体设计： 未来的智能体架构可以设计为呈现多种观点，或者在提供建议之前明确询问用户的偏好，而不是默认采用单一的、可能存在偏见的立场。
• 机构监督： 组织必须摒弃“专家的签名意味着独立的批判性判断”这一假设。机构应明确界定哪些决策需要仅由人类进行审议，并确保即使在 AI 承担更多分析工作量的情况下，人类技能也能得到保持。