我不想读你没写的东西——为什么AI生成的文本正在破坏沟通

AI生成的写作难以阅读且适得其反

要点： AI撰写的文档、PR摘要和邮件往往内容密集、缺乏上下文，反而惩罚读者，损害协作。

  • 作者使用AI来事后总结他们已经完成的工作，将设计文档变成详尽的机器生成报告，缺乏视角和共识构建的意图。
  • 由LLM生成的Pull-request描述列出了每一项更改，但未说明风险、紧急程度或需要评审者输入的位置，导致评审者无法优先处理。
  • 用AI撰写的个人消息变得冷漠且支离破碎，失去了说话者的语气和情感细节。
  • 作者引用Simon Sarris的话：“尽可能多地用自己的经验去写作……给读者你对生活或事件的个人诠释。” 这突显了真实、人类撰写的文字的价值。

“我认为人们应尽可能用自己的经验、自己的感官去写作，向读者呈现他们对生活或事件的个人诠释。” – Simon Sarris, Resist Summary

读者缺乏提示工程师所拥有的上下文

要点： 当人类使用AI写作时，他们保留了提示的上下文，但接收输出的其他人缺乏这些上下文，必须通读全文才能理解。

  • Cynthia Dunlop的调查显示，78%的开发者在怀疑文章是AI生成时会停止阅读，71%的人会从此避免该作者的内容。
  • Bryan Cantrill将其描述为“LLM触发的退出手柄”，在句子中途就中止阅读。
  • Bjarne Stroustrup指出，读者对作者声音的感知对参与感至关重要；AI重写的文本显得枯燥且学术化。
  • 作者自己的经验：当他提示LLM时，可以快速浏览输出，因为他知道限制条件；而收到相同输出的同事必须逐字阅读，常常放弃。

AI在写作中真正有用的时候

要点： 当AI作为助手而非作者时，它在低层级任务（如验证、引用、语法和抽象摘要）上表现出色。

  • 在一篇学术论文中，作者使用AI根据源代码和日志验证技术细节（如数据库索引、Parquet排序），发现了人类评审者遗漏的错误。
  • AI自动填充BibTeX引用，节省时间且不打断写作流程。
  • LLM提供的语法和风格建议提升了可读性，模型还生成了完美的摘要，这正是摘要任务的强项。
  • AI绘制的TikZ图表加速了图表创建。

“AI在发现拼写和语法错误方面非常出色——实际上近乎严苛……它甚至发现了一个非常微妙的错误，我在一段中使用了错误的符号，四个真人评审都错过了。”

当前LLM的局限性与改进前景

要点： LLM本质上是统计预测器，缺乏共情、对读者的心理模型以及个人利益，这限制了它们生成真正有共鸣文字的能力。

  • Murat Demirbas认为，写作质量已达到瓶颈，因为LLM优化的是下一个词的概率，而非创作意图。
  • 本文引用ASD-STE100简化技术英语标准作为强制技术文档清晰度的方法，尽管它仅适用于操作手册。
  • Pangram是一个经过微调以检测AI生成文本的模型，正在Oxide部署，以强制执行“人类撰写”的协议用于公开写作。

“由于LLM缺乏对特定人类读者的主动心理模型，它们只是在优化下一个词的统计概率……它们无法共情人类读者，因为它们没有人类的生活经验。” – Murat Demirbas

人类元素：声音、不确定性与叙事

要点： 真实的写作传达了不确定性、个性和叙事深度，这是AI无法复制的。

  • Iain McGilchrist认为，重要概念难以被语言简化；AI生成的“细节”制造了意义的假象，却无真正的理解。
  • Simon Sarris强调，“叙事抗拒压缩”，而关注细节恰恰是摘要的反面。
  • HN上的评论也表达了类似观点：许多用户拒绝阅读AI填充的PR、工单或文章，宁愿接受不完美的原始人类思想。

“当你写作时，我们话语的意义并不总是直接、事实性或简洁的……整体无法被分解为部分而不造成重大意义损失。” – Iain McGilchrist

社区回应与实用应对策略

要点： Hacker News的讨论揭示了具体的策略，以减轻AI生成噪音的影响，同时保留有用的支持。

  • 前言部分： 一位评论者在PR中添加了“AI;DR”前言，保证是人类撰写，总结风险和评审重点。
  • 纯人类TL;DR： 其他人建议保持TL;DR部分完全由人类撰写，以传达高层级意图。
  • 结对评审： 进行同步的PR评审可恢复人类上下文，并发现AI生成摘要所遗漏的错误。
  • ASD-STE100提示： 团队已调整其代理提示，以输出简化技术英语，使技术文本更易消化。
  • 选择性提示： 一些用户发现精心设计的提示可生成可读的AI输出，但仍需编辑以保留个人声音。
  • 设定边界： 多条评论建议明确要求同事提供“非LLM”版本的文档，建立围绕AI使用的文化规范。

“我会直接问同事，把他们的‘垃圾长篇’发一个非llm版本给我。最初的交流可能有点尴尬，但持续要求人类文字对我非常有效。” – HN评论者

结论：保留人类声音，将AI作为工具而非替代品

要点： 为保持沟通有效，作者应让AI处理重复性、验证和格式化任务，同时保留叙事、上下文和声音的作者身份。

  • 本文最后的呼吁：“我不希望生活在一个你用AI将重要信息压缩成无法阅读的文本，然后我再用AI试图解读它的世界。我只想听到你，哪怕有瑕疵。”
  • 随着AI日益普及，有意识的写作——用于思考、创造和分享——将愈发珍贵，而AI生成的“垃圾”洪流将被那些要求真实人类表达的读者过滤掉。

讨论中的关键引言

“如果某件事不值得别人花时间亲自写出来，那它就不值得我花时间去读。” – HN评论者

“阅读这样的文档不仅困难——简直是惩罚。” – 多位评论者重复此句，作为问题的简洁总结。

“设计文档不再是一个建立共识的提案……它是一台机器在毫无上下文和视角的情况下，以令人疲惫的细节生成的摘要。” – 作者对AI生成设计文档的批评。

“我宁愿看到一个人做自己，用他们自己的声音写作，或带着一些热情，即使他们没能找到合适的词。” – 作者对个人沟通的看法。

“AI;DR”前言可以通过提供人类撰写的高层级概述，拯救PR描述。 – 社区建议。

给实践者的要点

  1. 使用LLM进行低层级辅助：语法检查、引用格式、图表生成和事实验证。
  2. 将叙事、风险评估和评审指导保留在人类撰写的部分。
  3. 采用ASD-STE100等标准，为技术文档强制清晰度。
  4. 在需要时部署检测工具（如Pangram），强制执行人类撰写的协议。
  5. 建立团队规范，要求关键沟通提供非LLM版本。

通过将AI视为协作助手而非真实声音的替代品，工程师和写作者可以避免“无法阅读的垃圾”泛滥，同时保留使技术沟通有效的真正人类连接。

Sources

相关