终结 AI 置信度表演:从炒作转向真正的实用性

终结 AI 置信度表演:从炒作转向真正的实用性

AI 置信度表演的代价

AI 置信度表演是指夸大 AI 工具和智能体的能力,以展示一种现实中并不存在的生产力和创新水平的行为。 这种趋势创造了一个虚假的成功基准,使得真正的、节省时间的成果显得微不足道,并挫伤了用户追求实际效用的积极性,因为他们觉得自己在面对一个不可能达到的标准时“落后了”。

当从业者声称其 AI 驱动的系统是“改变生活”的,但这些系统只有 50% 的时间能触发,或者需要极度的人工干预时,这剥夺了他人通过发现真正有效的工具而获得的“顿悟”时刻。演示(demo)与日常现实之间的这种差距侵蚀了对整个生态系统的信任,导致一些人将 AI 完全视为骗局。

人工炒作的驱动因素

当前的 AI 炒作周期是由社交媒体激励、企业压力以及 LLM 输出固有的模糊性共同推动的。 与传统的软件不同(在传统软件中,点击按钮会产生可预测的结果),AI 是概率性的且依赖于上下文的,这使得在短视频或 LinkedIn 帖子中伪造成功比在生产环境中更容易。

几个结构性因素促成了这种环境:

  • 注意力经济: 社交媒体奖励令人震惊或夸张的说法。一个每周仅节省 15 分钟的工作流被重新包装为“改变生活”的,以获取流量。
  • 企业与 VC 压力: 投资者期望“AI 驱动的神迹”,这会传导给高管,进而要求员工实现同样的目标。这激励了员工进行“置信度表演”以证明其职位的合理性或职业晋升的必要性。
  • 专业知识的词汇表: AI 让“平均智力变得极其廉价”。因为 LLMs 可以复述 RAG、MCP 和 vector databases 等技术术语,听起来很专业变得与实际能力脱钩了。

从表现转向结果

要摆脱这种表演,重点必须从所使用的工具(例如,“我有多少个 agents”)转向所实现的实际业务结果。 AI 的真正价值不在于第一个 prompt,而在于“接下来的上千个 prompts”——即监控、评估和不断调优的迭代过程。

不同角色的策略

  • 高管: 根据实际可实现的目标而非理论上的神迹来设定合理的预期,并管理投资者的预期。
  • 经理: 关注结果而非 AI 的存在感。给团队实验的空间,让他们建立持久的工作流,而不是要求立即获得夸张的成果。
  • 员工: 将 AI 的使用锚定在核心业务问题上。不要盲目追随炒作驱动的趋势,而是每周投入专门的时间学习如何将 AI 工具连接到切实的实际影响上。
  • 内容创作者: 提供“凭证”。将原型展示为原型,并将诚实的局限性展示为局限性。避免放大那些未经个人验证的工作流。

社区观点与反论点

虽然对诚实的呼吁被广泛支持,但社区也指出了当前 AI 应用落地中的一些细微差别:

“AI 精神错乱”与应对机制

一些观察者认为,问题不仅仅是置信度;它是一种由恐惧驱动的“AI 精神错乱”。

"Hype 和字面意义上的失业威胁迫使每个人都不得不开发应对机制。吹嘘自己的适应能力是其中之一。"

高杠杆使用案例的现实情况

尽管存在炒作,但一些用户报告了工作中真正的、根本性的转变。对于某些人来说,AI 已将瓶颈从 执行 转向了 评估

  • 抽象问题解决: 一些开发者报告他们不再查看 log files 或实现细节,而是将角色从解决技术问题转向解决抽象问题。
  • 跨学科杠杆: 小型混合团队(工程师、设计师、PMs)在 hackathons 中使用 AI 创建了几乎可以交付的产品,展示了个人和团队杠杆的巨大提升。
  • 编码效率: 一些从业者声称实现了完全转型,AI 现在编写了他们绝大部分的代码,使人类的角色转向了监督和架构设计。
  • “焦土式”营销的风险: 存在一种担忧,即对诚实的呼吁可能会被忽视,因为“操纵系统”的经济利益太高。正如在之前的技术转型(如 Kindle self-publishing)中所见,营销人员经常利用新渠道充斥低质量、AI 生成的内容,以获取利基市场,这可能会淹没高投入、高品质的工作。

社区观点与反论点

虽然对诚实的诚实呼吁被广泛支持,但社区也指出了当前 AI 驱动的应用落地中的一些细微差别:

“AI 精神错乱” and Coping Mechanisms

一些观察者认为,问题不仅仅是置信度

"Hype 驱动的失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失业失一些

  • 编码效率: 一些从业者声称实现了完全转型,AI 现在编写了他们绝大部分的代码,使人类的角色转向了监督和架构设计。

"焦土式" 营销的风险

存在一种担忧,即对诚实的呼吁可能会被忽视,因为“操纵系统”的经济利益太高。正如在之前的技术转型(如 Kindle self-publishing)中所见,

营销人员经常利用新渠道充斥低质量、AI 生成的内容,

Sources