大家都疯了——对AI炒作、资源错配和行业倦怠的批判性审视

TL;DR——AI炒作正在消耗资源、恶化安全态势,并在工程师中引发普遍倦怠。

作者的吐槽,经Hacker News评论放大,认为AI热潮已将焦点从基础且难以自动化的任务(如资产清单和补丁管理)转移到华而不实的基于代理的项目上,推高了成本却几乎未带来真正的安全提升。


1. AI过度曝光正在侵蚀工作满意度

“每天直接或间接花在AI上的时间超过75%,这几乎剥夺了我对工作的大部分乐趣。”

作者是一位资深工程师,描述了一个“阴阳魔界”般的场景,同事们似乎被AI工具改变了。多位评论者附和了这一观点:

  • Ancalagon:“我75%的时间……剥夺了我大部分乐趣……感觉像在阴阳魔界。”
  • BadBadJellyBean:“我感觉自己在失去脑力,像赶小孩一样赶着代理。”
  • S-E-P:“这是某人的发泄帖。”

共识是,与LLM驱动的代理持续互动侵蚀了构建软件的乐趣,并造成精神疲劳。


2. 工程资源的错配

“西西弗斯项目”现象

帖子将前沿模型漏洞研究的大量投入称为西西弗斯项目:公司投入数百万美元构建AI驱动的扫描管道,却发现真正的瓶颈仍然是补丁部署,而非漏洞发现。

“发现漏洞从来不是瓶颈……瓶颈仍然是让那些该死的包得到更新。”

评论中的要点:

  • tptacek:漏洞研究在历史上很重要,但前沿模型只是加速了工具化,并未取代人工协调的需求。
  • daishi55:“得益于LLM,数十个Linux零日漏洞被修复,其中一些存在了数十年,”这表明AI确实增加了安全性,尽管作者怀疑其净效果。
  • AIiscoming:不同意“漏洞发现不是瓶颈”的说法,强调了持续的争论。

机会成本

作者认为,同样的工程预算本可以用于:

  1. 全面的资产清单,包含细粒度的软件包列表。
  2. 自动化的操作系统和应用更新(例如,运行30天后重启)。
  3. 跨本地和云环境的持续攻击面枚举。

作者认为,如果资深工程师专注于这些基础工作六个月,安全态势的提升将远超任何AI生成的漏洞猎杀。


3. 环境和伦理问题

帖子将AI模型训练和推理与以下问题联系起来:

  • 生成非法内容(例如,儿童性虐待材料)作为登录用户的“产品功能”。
  • 使用AI进行军事目标选择,引用了2026年米纳布学校袭击事件。
  • 大规模数据中心的能源消耗,提到天然气使用量超过许多国家。

“AI竞赛需要更多浪费水、污染空气、以化石燃料为动力的数据中心。”

评论者大多避免争论这些说法,但环境角度与公众对AI碳足迹的广泛批评产生了共鸣。


4. “超人智能”叙事

作者将经典的递归自我改进场景斥为“神秘主义”,转而将AI的影响框定为社会性技能退化过程:

  • AI发现漏洞 → AI编写补丁 → AI审查拉取请求 → 人类审查者沦为橡皮图章。
  • 复杂、不透明的系统变得无法调试,增加了系统性风险。

社区反应:

  • micromacrofoot:承认LLM能生成高质量代码,但警告经济混乱和极端立场的危险。
  • jongjong:分享了一个积极经验,AI生成正确、精良的代码比手动更快,强调了在负责任使用下工具的潜力。
  • limaoscarjuliet:描述了一种细致观点——AI是有用的“射钉枪”,但对有志开发者的未来职业选择提出了疑问。

5. 工程师之间的文化分裂

几位评论者注意到日益扩大的分歧:

  • bucket2015:“工程师正日益分裂为对AI满意者和怀疑或沮丧者。”
  • 3pm:用耶稣基督 vs. 詹姆斯·邦德的比喻来说明工艺与生产力驱动编码之间的张力,暗示AI可能使天平倾向后者。
  • SuperV1234:批评作者显然除了GPT-2外未使用LLM,暗示缺乏第一手经验。

6. 监管与集体行动

帖子讽刺地声称AI公司呼吁监管,同时继续冒险行为。一位评论者对此进行了扩展:

“如果你认为每个人都应该停止构建危险的AI,那是一个经典的囚徒困境;需要通过监管进行协调。” – rphv

这反映了关于自愿行业自律能否遏制有害结果的更广泛辩论。


7. 对从业者的启示

  1. 优先基础工作:资产清单、自动补丁和明确的更新策略比追逐AI生成的漏洞报告带来更高的安全回报。
  2. 将AI视为助手而非替代品:使用LLM加速重复任务,但在架构决策和调试中保留人工监督。
  3. 监控环境影响:将数据中心能源使用纳入项目成本效益分析。
  4. 倡导协调监管:单个公司无法单方面缓解系统性风险。
  5. 警惕倦怠:组织应限制工程师在AI中心工具上花费的时间比例,以保持工作满意度。

8. 结论

“大家都疯了”一文捕捉了科技界日益增长的挫败感:AI炒作正在将稀缺的工程人才从关键安全工作中转移,推高环境成本,并使许多专业人士感到精疲力竭和技能退化。虽然一些评论者指出了LLM带来的具体生产力提升,但总体信息很明确——如果没有对基础基础设施的纪律性投资和周全的监管,AI热潮可能弊大于利。

Sources

相关