理解 LLM 评估中的“扩展时间视野”
围绕大型语言模型（LLMs）和 AI 代理的讨论常常充斥着可能被误认为是简单性能指标的术语。其中最具争议的讨论点之一是“扩展时间视野”概念。对不熟悉的人来说，这可能看起来像是对慢速处理的赞扬或一种低效的度量。然而，AI 代理工作流的复杂性代表了一种对我们衡量智能和能力方式的根本转变。
误解：处理速度 vs. 任务视野
许多批评者认为赞扬模型回答问题所花时间更长是违背直觉的。把一个人花很长时间去解 “2 + 2” 的类比暗示，响应时间越慢等同于智力越低。从这个角度看，时间维度并不重要——无论模型在一秒还是六十分钟内填满其上下文窗口，结果才是唯一重要的。
然而，这种批评忽略了一个根本区别：推理速度（每秒 token 数）与任务的 时间视野 之间的差异。
定义时间视野
在 AI 代理评估的语境中，“时间视野”并不指 AI 计算结果所需的时间。相反，它指的是 AI 能够自主处理的任务规模，即在不失去目标、偏离同一目标或因在一系列步骤中缺乏“注意力”而失败的情况下，能够持续完成的任务范围。正如一位社区成员在 Hacker News 讨论中指出的：
这不是 “AI 完成 ${thing} 需要多长时间”，而是 “human 完成 ${thing} 需要多长时间”，其中 ${thing} 来自 AI 以概率 = n 正确完成的事物集合。
换句话说，时间视野是对自主思考链的复杂性和长度的代理。如果一个任务通常需要专业人士两小时的专注工作——比如调试复杂代码库或进行多步骤研究——而 AI 代理能够以高成功率完成同样的任务，则该 AI 被称为拥有“两个小时的时间视野”。
为什么这对 AI 代理重要
虽然标准 LLM 是一个无状态函数，将输入映射到输出，代理 则是一个与环境交互、接收反馈并迭代的系统。这些系统面临的挑战不是速度，而是稳定性。
稳定性挑战
在长序列动作中保持目标对 LLM 来说是困难的，因为：
- 上下文漂移：随着代理执行动作并接收反馈，上下文窗口被噪声填满，可能导致模型忘记原始目标。
- 错误累积：在二十步过程的第二步出现的小错误，可能在第十步时导致整体失败。
- 递归循环：代理可能陷入重复行为循环而未意识到自己未取得进展。
当研究者谈论“扩展时间视野”时，他们赞扬的是代理在长时任务中抵御这些失败的能力，而非其生成 token 的速度。
结论
衡量 AI 能力已不再仅仅关注标准基准的准确性或推理速度。随着我们迈向自主代理，衡量指标转向在复杂多步骤工作流中保持连贯性和目标导向的能力。“时间视野”不是 CPU 周期的度量，而是 AI 能可靠行使的自主范围的度量。