大家都疯了——对AI炒作、资源错配和行业倦怠的批判性审视
TL;DR——AI炒作正在消耗资源、恶化安全态势,并在工程师中引发普遍倦怠。
作者的吐槽,经Hacker News评论放大,认为AI热潮已将焦点从基础且难以自动化的任务(如资产清单和补丁管理)转移到华而不实的基于代理的项目上,推高了成本却几乎未带来真正的安全提升。
1. AI过度曝光正在侵蚀工作满意度
“每天直接或间接花在AI上的时间超过75%,这几乎剥夺了我对工作的大部分乐趣。”
作者是一位资深工程师,描述了一个“阴阳魔界”般的场景,同事们似乎被AI工具改变了。多位评论者附和了这一观点:
- Ancalagon:“我75%的时间……剥夺了我大部分乐趣……感觉像在阴阳魔界。”
- BadBadJellyBean:“我感觉自己在失去脑力,像赶小孩一样赶着代理。”
- S-E-P:“这是某人的发泄帖。”
共识是,与LLM驱动的代理持续互动侵蚀了构建软件的乐趣,并造成精神疲劳。
2. 工程资源的错配
“西西弗斯项目”现象
帖子将前沿模型漏洞研究的大量投入称为西西弗斯项目:公司投入数百万美元构建AI驱动的扫描管道,却发现真正的瓶颈仍然是补丁部署,而非漏洞发现。
“发现漏洞从来不是瓶颈……瓶颈仍然是让那些该死的包得到更新。”
评论中的要点:
- tptacek:漏洞研究在历史上很重要,但前沿模型只是加速了工具化,并未取代人工协调的需求。
- daishi55:“得益于LLM,数十个Linux零日漏洞被修复,其中一些存在了数十年,”这表明AI确实增加了安全性,尽管作者怀疑其净效果。
- AIiscoming:不同意“漏洞发现不是瓶颈”的说法,强调了持续的争论。
机会成本
作者认为,同样的工程预算本可以用于:
- 全面的资产清单,包含细粒度的软件包列表。
- 自动化的操作系统和应用更新(例如,运行30天后重启)。
- 跨本地和云环境的持续攻击面枚举。
作者认为,如果资深工程师专注于这些基础工作六个月,安全态势的提升将远超任何AI生成的漏洞猎杀。
3. 环境和伦理问题
帖子将AI模型训练和推理与以下问题联系起来:
- 生成非法内容(例如,儿童性虐待材料)作为登录用户的“产品功能”。
- 使用AI进行军事目标选择,引用了2026年米纳布学校袭击事件。
- 大规模数据中心的能源消耗,提到天然气使用量超过许多国家。
“AI竞赛需要更多浪费水、污染空气、以化石燃料为动力的数据中心。”
评论者大多避免争论这些说法,但环境角度与公众对AI碳足迹的广泛批评产生了共鸣。
4. “超人智能”叙事
作者将经典的递归自我改进场景斥为“神秘主义”,转而将AI的影响框定为社会性技能退化过程:
- AI发现漏洞 → AI编写补丁 → AI审查拉取请求 → 人类审查者沦为橡皮图章。
- 复杂、不透明的系统变得无法调试,增加了系统性风险。
社区反应:
- micromacrofoot:承认LLM能生成高质量代码,但警告经济混乱和极端立场的危险。
- jongjong:分享了一个积极经验,AI生成正确、精良的代码比手动更快,强调了在负责任使用下工具的潜力。
- limaoscarjuliet:描述了一种细致观点——AI是有用的“射钉枪”,但对有志开发者的未来职业选择提出了疑问。
5. 工程师之间的文化分裂
几位评论者注意到日益扩大的分歧:
- bucket2015:“工程师正日益分裂为对AI满意者和怀疑或沮丧者。”
- 3pm:用耶稣基督 vs. 詹姆斯·邦德的比喻来说明工艺与生产力驱动编码之间的张力,暗示AI可能使天平倾向后者。
- SuperV1234:批评作者显然除了GPT-2外未使用LLM,暗示缺乏第一手经验。
6. 监管与集体行动
帖子讽刺地声称AI公司呼吁监管,同时继续冒险行为。一位评论者对此进行了扩展:
“如果你认为每个人都应该停止构建危险的AI,那是一个经典的囚徒困境;需要通过监管进行协调。” – rphv
这反映了关于自愿行业自律能否遏制有害结果的更广泛辩论。
7. 对从业者的启示
- 优先基础工作:资产清单、自动补丁和明确的更新策略比追逐AI生成的漏洞报告带来更高的安全回报。
- 将AI视为助手而非替代品:使用LLM加速重复任务,但在架构决策和调试中保留人工监督。
- 监控环境影响:将数据中心能源使用纳入项目成本效益分析。
- 倡导协调监管:单个公司无法单方面缓解系统性风险。
- 警惕倦怠:组织应限制工程师在AI中心工具上花费的时间比例,以保持工作满意度。
8. 结论
“大家都疯了”一文捕捉了科技界日益增长的挫败感:AI炒作正在将稀缺的工程人才从关键安全工作中转移,推高环境成本,并使许多专业人士感到精疲力竭和技能退化。虽然一些评论者指出了LLM带来的具体生产力提升,但总体信息很明确——如果没有对基础基础设施的纪律性投资和周全的监管,AI热潮可能弊大于利。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch