Anthropic 实践中衡量 AI 代理自主性的方法——关键发现与影响

概要

Anthropic 2026 年 2 月的研究表明，Claude Code 代理现在每轮可自主运行长达 45 分钟，经验丰富的用户既更频繁地自动批准操作，也更常中断流程，模型在复杂任务上请求澄清的频率是人类中断频率的两倍，尽管大多数基于 API 的代理操作风险较低，但在医疗、金融和网络安全领域的新兴应用表明，风险前沿正在扩大。

通过两种数据源衡量自主性

Anthropic 结合了 (1) Claude Code 会话日志，可追踪整个工作流中的请求，以及 (2) 公共 API 工具调用记录，覆盖数千名客户。两种数据流均通过 Anthropic 的隐私保护基础设施 Clio 处理，可在保护用户隐私的前提下分析数百万次交互。

Claude Code 提供了逐轮自主性、中断行为和澄清行为的深入洞察，因为每个会话都是完全可观测的。

公共 API 提供了跨多个领域代理部署的广泛视图，但仅限于单个工具调用的粒度，限制了对多步骤工作流的重构能力。

Claude Code 的自主性持续增强

  • 最长 0.1% 会话的轮次时长几乎翻倍，从 2025 年 10 月的不足 25 分钟上升至 2026 年 1 月的超过 45 分钟。中位轮次长度保持稳定在约 45 秒。
  • 增长趋势在各模型版本间平滑延续，表明推动更长自主运行的因素不仅限于原始能力，还包括用户信任、任务雄心和产品改进等。
  • 内部 Anthropic 使用情况也呈现相同趋势：在最困难任务上的成功率翻倍，而平均每会话的人工干预次数从 5.4 次降至 3.3 次。

“当前模型具备的自主能力远超其在实践中所展现的水平。” – Anthropic 研究团队

经验丰富的用户调整监督策略

  • 自动批准率随使用时长上升：新用户（< 50 次会话）自动批准约 20% 的会话；使用约 750 次会话的用户自动批准率超过 40%。
  • 中断率也上升：使用约 10 次会话的用户中断约 5% 的轮次，而资深用户中断约 9% 的轮次。
  • 双重上升反映出从逐项审批向 监控与干预 监督模式的转变：经验丰富的用户允许代理自由运行，但在必要时介入。
  • 在公共 API 上，人类参与度从低复杂度工具调用的 87% 下降至高复杂度调用的 67%，表明对大型工作流进行逐步审批已不切实际。

代理通过澄清实现自我调节

  • Claude Code 在最复杂任务上请求澄清的频率超过低复杂度任务的两倍。
  • 澄清请求的频率超过人类主动中断，表明模型在不确定时会主动限制自身自主性。
  • 表 1（原文中）显示了模型主动暂停的最常见原因（如提出替代方案占 35%）和人类中断的常见原因（如提供缺失的技术背景占 32%）。

公共 API 代理的风险格局

  • Anthropic 为每个工具调用在 1–10 的风险等级和 1–10 的自主性等级上进行评分。80% 的调用至少具备一项安全防护，73% 的调用涉及人工在环，仅有 0.8% 的调用不可逆。
  • 高风险集群（如 API 密钥窃取、患者记录检索）虽罕见但存在，通常与安全评估相关，而非生产使用。
  • 高自主性集群 包括自动化系统健康监控和加密货币交易机器人，自主性评分最高达 8.3。
  • 领域分布：软件工程占约 50% 的工具调用；其他领域（商业智能、金融、电子商务等）各贡献数个百分点。

研究的局限性

  1. 数据仅限 Anthropic 托管的模型；其他提供商的模式可能不同。
  2. 公共 API 分析无法重构多步骤会话，可能高估高频工作流。
  3. 所有分类（风险、自主性、中断原因）均由 Claude 自身生成，因隐私限制，人工验证有限。
  4. 快照覆盖 2025 年底至 2026 年初；能力与采用速度的快速变化可能改变趋势。
  5. 部分高风险操作可能代表模拟评估，而非实际生产影响。

对利益相关方的建议

模型与产品开发者

  • 投资于部署后监控，将离散的工具调用关联为连贯会话，同时保护隐私。
  • 训练模型识别不确定性 并主动提出澄清请求；Claude 的行为表明这能减少未受监控的自主性。
  • 设计支持主动监控的界面（实时引导、OpenTelemetry），而非强制逐项审批。

政策制定者

  • 避免要求对每个操作进行人工审批的强制性规则；数据显示经验丰富的用户更倾向于监控与选择性干预。
  • 推动行业级标准，实现隐私保护的遥测，以捕捉会话级自主性指标。

核心洞见

代理在实际中展现的自主性是模型行为、用户信任与产品设计的 共同构建。Claude Code 代理已具备远超当前授权的自主能力，用户逐渐从细粒度审批转向战略监督，而模型本身通过请求澄清实现自我调节。因此，有效的安全框架必须结合现实世界监控、具备不确定性感知能力的模型，以及赋能用户在必要时干预的工具。

作者：Miles McCain, Thomas Millar, Saffron Huang, Jake Eaton, Kunal Handa, Michael Stern, Alex Tamkin, Matt Kearney, Esin Durmus, Judy Shen, Jerry Hong, Brian Calvert, Jun Shern Chan, Francesco Mosconi, David Saunders, Tyler Neylon, Gabriel Nicholas, Sarah Pollack, Jack Clark, Deep Ganguli。

Sources

相关