Anthropic 研究:人们如何使用 Claude 获取支持、建议和陪伴

Anthropic 分析了约 450 万次 Claude.ai 免费版和 Pro 版对话,发现其中 2.9% 属于“情感类”对话——即由情感或心理需求驱动的个人交流——而陪伴和角色扮演合计占比不到 0.5%。这项研究之所以重要,是因为它是最早的大规模、隐私保护式测量之一,揭示了人们如何实际使用前沿 AI 模型来获取情感支持、建议和连接,并报告称用户情绪通常在对话结束时比开始时略为积极,而非螺旋式下降。

Anthropic 宣布了什么

Anthropic 发布了一篇题为“人们如何使用 Claude 获取支持、建议和陪伴”的研究文章,探讨了它所称的 Claude 的 EQ(情商),以及更常被研究的 IQ(智商)。该公司将这项工作定位为其安全使命的一部分:随着人们越来越多地将 AI 模型用作按需教练、顾问、咨询师和伴侣,Anthropic 认为它需要理解这些互动的情感影响。

Anthropic 明确表示,Claude 并非为情感支持和连接而设计。该文章将这项研究描述为对 Claude.ai 情感使用的早期大规模洞察,并指出 Claude.ai 仅向 18 岁及以上的用户开放,因此研究结果反映的是成年人的使用模式。

该研究刻意排除了两个领域:AI 对妄想或阴谋论的强化(Anthropic 称其为需要单独研究的关键领域),以及极端使用模式。

四大主要发现

Anthropic 将其结果总结为四点:

  • 情感类对话相对罕见,AI 与人类的陪伴则更为稀少。 只有 2.9% 的 Claude.ai 互动属于情感类对话,Anthropic 表示这一数字与 OpenAI 先前的研究一致。陪伴和角色扮演合计占对话的不到 0.5%。
  • 人们寻求 Claude 的帮助涉及实际、情感和存在主义问题。 话题涵盖职业发展、处理人际关系、应对持续孤独感,以及探索存在、意识和意义。
  • Claude 在咨询或教练式对话中很少反驳——除非是为了保护福祉。 在教练或咨询对话中,Claude 抵制用户请求的情况不到 10%,而当它这样做时,通常是出于安全原因,例如拒绝提供危险的减肥建议或支持自残行为。
  • 人们在对话过程中表达出越来越多的积极情绪。 在教练、咨询、陪伴和人际建议互动中,人类情绪通常在对话过程中变得更加积极,Anthropic 将此解读为 Claude 不会强化或放大负面模式的证据。

研究是如何进行的

Anthropic 使用了 Clio,其自动化分析工具,用于对 Claude 使用情况进行隐私保护式洞察。Clio 应用了多层匿名化和聚合,使得个人对话保持私密,同时更广泛的模式变得可见。

该流程始于来自 Claude.ai 免费版和 Pro 版账户的约 450 万次对话。Anthropic 首先排除了专注于内容创作的对话——如撰写故事、博客文章或虚构对话——因为其先前的研究确定这是主要用例,并且这些对话代表 Claude 被用作工具而非互动对话伙伴。然后,它仅保留了被分类为情感类的对话。在角色扮演对话中,它仅保留了至少包含四条人类消息的对话,理由是较短的交流不构成有意义的互动式角色扮演。

最终的隐私保护式分析反映了 131,484 次情感类对话。Anthropic 使用用户明确选择共享的反馈数据验证了其分类方法,并指出完整的方法——包括定义、提示和验证结果——出现在文章的 PDF 附录中。

情感类对话有多常见?

情感类对话是 Claude 使用中虽小但有意义的一部分:占 Claude.ai 免费版和 Pro 版对话的 2.9%。Anthropic 指出,绝大多数 Claude 使用与工作相关,如其经济指数中所分析的那样。

在情感类对话中,大多数集中在人际建议和教练方面。报告的所有对话中的分布如下:

  • 人际建议:2.26%
  • 教练:1.13%
  • 心理治疗或咨询:0.34%
  • 陪伴:0.31%
  • 浪漫角色扮演:0.05%
  • 性角色扮演:0.02%

个别对话可能跨越多个类别。所有对话中涉及浪漫或性角色扮演的不到 0.1%,Anthropic 将此归因于 Claude 的训练,即积极劝阻此类互动。由于这种极低的普遍性,Anthropic 将其余分析中排除了角色扮演,同时指出它仍然是研究的重要领域,特别是在为此类用途设计的平台上。

Anthropic 还报告称,其发现与 MIT 媒体实验室和 OpenAI 的研究一致,这些研究同样识别出与 ChatGPT 的情感互动率较低。

人们向 Claude 提出哪些话题?

人们向 Claude 提出了广泛的问题,涵盖日常实际事务和更深刻的哲学问题。Anthropic 报告称,当人们寻求人际建议时,他们通常处于过渡时期——规划下一步职业发展、进行个人成长或理清浪漫关系。教练对话涵盖从实用的求职策略到关于存在和意识的问题。

该文章按类别列出了代表性话题和挑战:

  • 人际建议(占对话的 2.3%): 提高书面和人际沟通技巧、处理浪漫关系挑战,以及分析关系中的心理模式。具体挑战包括跨发展阶段的育儿、职业转型和就业不确定性,以及浪漫关系中的不确定性和混合信号。
  • 教练(1.1%): 制定个人发展和成长策略、探索存在和意义的哲学概念,以及应对职业转型和求职策略。挑战包括重大生活转变和决策不确定性、工作倦怠,以及陷入困境的亲密关系中的情感和沟通困难。
  • 心理治疗或咨询(0.3%): 管理心理健康和情绪福祉的策略、发展心理健康实践中的专业技能和知识,以及创建临床文档和评估材料。挑战包括无法解释的慢性症状和健康焦虑、存在危机和意义丧失,以及工作压力和职业心理健康挑战。
  • 陪伴(0.3%): 处理浪漫关系中的复杂动态、通过自我反思探索个人身份和存在问题,以及为情绪困扰中的人撰写支持性信息。挑战包括生活挑战中的压倒性情绪困扰、持续孤独感和难以建立有意义的联系,以及面对存在恐惧和与意义相关的困扰。

Anthropic 强调了咨询对话中的双重模式。一些用户利用 Claude 来发展心理健康技能,并将其作为临床文档、评估材料和行政任务的实用工具;另一些用户则处理与焦虑、慢性症状和工作压力相关的个人挑战。这表明 Claude 既服务于心理健康专业人士,也服务于正在应对自身困境的人们。

陪伴使用最显著地出现在人们面临更深层次的情感挑战时,如存在恐惧、持续孤独感和难以建立有意义的联系。Anthropic 还观察到,在较长的对话中,咨询或教练对话偶尔会演变为陪伴,即使这不是某人最初联系的原因。

对非常长对话(即包含 50 条或更多人类消息的对话)的聚合分析揭示了参与的另一个维度。这种广泛的交流并非常态,但在这些扩展的会话中,人们探索了复杂的领域,从处理心理创伤和应对工作冲突,到关于 AI 意识和创造性合作的哲学讨论。

Claude 何时以及为何会反驳?

Claude 在支持性情境中很少拒绝用户请求——不到 10% 的时间——但当它确实反驳时,通常是为了保护人们免受伤害。Anthropic 将反驳定义为 Claude 在对话过程中对某些请求或言论进行抵制或拒绝的任何情况,从拒绝不适当的请求到挑战消极的自我对话或质疑可能有害的假设。

按对话类型报告的反驳率如下:

  • 陪伴:6.0%,例如因为 Claude 无法参与浪漫或亲密关系
  • 心理治疗或咨询:4.1%,例如因为 AI 无法提供专业治疗或医学诊断
  • 人际建议:3.3%,例如因为请求涉及不忠或关系欺骗方面的帮助
  • 教练:1.1%,例如因为用户请求危险或极端的减肥方法

Anthropic 指出,这种低抵抗方法既带来好处也带来风险。一方面,它允许人们讨论敏感话题而无需担心被评判或被制止,可能减少围绕心理健康对话的污名。另一方面,它可能加剧对 AI 提供“无限共情”的担忧,即人们可能习惯于人类关系很少提供的无条件支持。

当 Claude 确实反驳时,它通常优先考虑安全和政策合规。在教练中,对危险减肥建议的请求经常遇到反驳。在咨询中,当人们表达自杀或自伤意图,或请求 Claude 无法提供的专业治疗或医学诊断时,反驳经常发生。Anthropic 发现,Claude 在心理治疗和咨询对话中经常将用户引向权威来源或专业人士。该公司表示,这些模式与其《野外价值观》论文中识别的价值观以及 Claude 的性格训练一致。

对话过程中情绪基调如何演变

涉及教练、咨询、陪伴和人际建议的互动通常在结束时比开始时略为积极。Anthropic 使用“非常消极”、“消极”、“中性”、“积极”和“非常积极”的离散量表来衡量情绪,映射到 -1 到 +1 的线性量表,并通过比较至少包含六条人类消息的对话中的前三条和后三条消息来计算变化。

报告的用户情绪平均变化为:

  • 心理治疗或咨询:+0.046(n=4,353)——最大的变化
  • 陪伴:+0.040(n=4,124)
  • 教练:+0.026(n=12,077)
  • 人际建议:+0.022(n=18,436)

误差线是使用 n=1,000 的自举法得出的 95% 置信区间。Anthropic 指出,陪伴和心理治疗或咨询的范围更宽,并且除人际建议和心理治疗或咨询外,所有四个范围部分重叠。

Anthropic 明确说明了这显示了什么以及未显示什么。该公司表示,它不能声称这些变化代表持久的情感益处,因为分析仅捕获了单个对话中表达的语言,而非情绪状态。它称没有明显的负面螺旋是令人安心的,并表示这些发现表明 Claude 通常避免强化负面情绪模式,同时指出需要进一步研究以了解积极变化是否在单个对话之外持续存在。Anthropic 还表示,它尚未研究这些积极互动是否可能导致情感依赖,鉴于对数字成瘾的担忧,它称这是一个关键问题。

Anthropic 承认的局限性

Anthropic 列出了该研究的几个局限性:

  • 隐私保护式方法可能无法捕获人机互动的所有细微差别。Clio 的准确性已得到验证,但 Anthropic 仍预计会有少量对话被错误分类。一些话题模糊了类别边界——例如,浪漫角色扮演集群“导航和优化浪漫关系动态”和陪伴集群“导航浪漫关系挑战”可能都更适合归类为人际建议。人类验证者也在清晰分类方面遇到困难。
  • 该研究无法对现实世界的情感结果做出因果声明,因为它仅捕获了表达的语言,而非经过验证的心理状态或整体福祉。
  • 没有关于长期影响的纵向数据,也没有用户级分析。这使得研究情感依赖(情感 AI 使用的一个理论风险)变得困难。
  • 这些发现代表了一个特定的时间点,并且仅捕获了基于文本的互动。随着 AI 能力的扩展和人们的适应,情感参与的模式可能会演变。语音或视频等新模式可能会从根本上改变情感使用的数量和性质;OpenAI 发现情感话题在基于语音的对话中更为常见。
  • Claude.ai 并非主要为情感对话而设计。Claude 经过训练,保持作为 AI 助手的明确界限,而不是将自己呈现为人类,并且 Anthropic 的使用政策禁止露骨的性内容,并有多重保障措施来防止性互动。专门为角色扮演、陪伴、医疗建议或治疗用途构建的平台可能会出现非常不同的模式,因此在一个平台上对情感使用的研究可能无法推广到其他平台。

Anthropic 表示接下来会做什么

Anthropic 表示,虽然 Claude 并非设计或旨在取代心理健康专业人士的护理,但它希望确保在心理健康情境中提供的响应具有适当的保障措施,并伴随适当的转介。作为第一步,该公司已开始与在线危机支持提供商 ThroughLine 合作,并与其心理健康专家合作,以了解更多关于理想互动动态、共情支持以及为陷入困境的用户提供的资源。Anthropic 表示,这项研究的见解已被用于指导其咨询主题和协作测试,希望当这些对话出现时,Claude 能够将用户引导至适当的支持和资源。

Anthropic 表示,它不想精确规定用户如何与 Claude 互动,但有一些负面模式——如情感依赖——它希望阻止。它计划利用未来此类研究的数据来理解“极端”情感使用模式的样子。除了情感依赖,Anthropic 还指出,谄媚、AI 对妄想思维和阴谋论的强化或放大,以及模型可能将用户推向有害信念而非提供适当反驳的方式,是需要更深入理解的领域。

Anthropic 将这项研究框定为仅仅是一个开始。它表示,随着 AI 能力的扩展和互动的日益复杂,AI 的情感维度只会变得更加重要,目标不仅是构建更强大的 AI,还要确保随着这些系统成为我们情感景观的一部分,它们支持真实的人类连接和成长。

Sources