AI 的成本:效率、Dogfooding 与“Tokenmaxxing”陷阱
A份近期报告指出 Microsoft 正在面临与 AI 使用相关的不断上升的成本,这在工程师和行业观察者中引发了激烈的辩论。虽然头条新闻往往将叙事简化为人类劳动力与 AI 成本之间的二元选择,但现实要复杂得多,涉及企业战略、内部产品采用以及对如何衡量 AI 生产力的系统性误解。
“AI vs. Humans” 的误导性叙事
围绕 Microsoft AI 支出的许多讨论都集中在一个感知到的冲突上:AI 是否比支付给人类员工更贵?然而,仔细查看原始资料和社区反馈后发现,这是一种虚假的两分法。核心问题不在于 AI 本身比薪水更贵,而在于 AI 是如何在庞大的企业基础设施中被部署和管理的。
批评者认为,“AI 更贵”这一标题的前提从根本上就是错误的。正如一位观察者所指出的,“AI 并不比支付给人类员工更贵,只是 AI 目前还无法取代人类员工。” 当 AI 被用作人类劳动的补充,却又没有明确的效率计划时,成本问题就会出现,这会导致成本的增加而非减少。
“Tokenmaxxing” 现象
从这次讨论中产生的最关键见解之一是“tokenmaxxing”的概念——即组织倾向于将 token 使用量作为生产力或创新的代理指标。当公司根据消耗的 token 数量来设定 OKRs (Objectives and Key Results) 时,他们就创造了一种扭曲的激励结构。
“这些公司里有一些毫无意义的 OKRs 和目标,就是为了尽可能多地消耗 token。事实证明,当你把 token 使用量作为一个指标时,它不出所料地变得极其昂贵。”
这种趋势代表了从效率和生产力最大化向其他方向的转变。当 token 消耗成为目标时,技术就会被用于琐碎的任务——例如“美化” Slack 消息或电子邮件——这些任务并不会为产品或代码库带来切实的价值。这种“像把美元扔进熔炉一样烧 token”的方法掩盖了实际的生产力提升,并使技术看起来昂贵得令人望而却步。
战略性 “Dogfooding” 与 成本削减
除了财务指标之外,Microsoft 的举动还包含一个战略层面。有报告称 Microsoft 已开始取消 Claude Code 的直接许可,一些人将其解读为并非出于成本节约的考虑,而是强制转向“dogfooding”他们自己的产品。
在公司努力改进 GitHub Copilot 的过程中,其自身的工程师必须使用该工具。如果内部开发人员更倾向于于竞争对手的工具(如 Claude),这表明内部产品的质量存在缺陷。因此,取消外部许可很可能是一个战略举措,旨在强制采用 Copilot 以识别其缺陷并进行改进,而不是对 token 账单的简单反应。
通往可持续 AI 集成的路径
为了摆脱当前的成本危机,行业必须将重点从原始使用量转向有纪律的集成。目前已确定了几条路径:
1. 模型规模适配 (Right-Sizing the Model)
并非所有任务都需要最先进的 (SOTA) 专有模型。将最昂贵的模型(例如 Claude Opus)用于简单任务是一种资源浪费。转向更小、更高效的模型或本地部署(例如 DeepSeek)可以大幅降低开销。
2. 重新定义生产力指标
公司必须停止使用 token 计数作为 KPI。相反,他们需要开发能够衡量 生产性 AI 参与度的指标——衡量 AI 是否减少了交付功能的时间或提高了代码质量,而不是仅仅看发送了多少个 prompt。
3. 硬件演进
长期解决方案可能在于硬件。硬件加速的 LLMs 的出现,承诺提供显著更高的每秒 token 数 (TPS),表明推理成本最终会大幅下降,使当前的“昂贵”阶段成为早期采用曲线中的一个临时瓶颈。
结论
Microsoft 当前的摩擦是一个关于未经管理的 AI 采用所带来的危险的案例研究。当在没有纪律的情况下释放 AI 时,AI 会变成一个成本中心;当有计划地集成时,它会成为一个力量倍增器。下一个 AI 实施时代的挑战不在于 token 的成本,是否能更好地管理它们,而在于管理它们的人类的纪律。