为什么使用 AI 撰写实质性文本通常是个坏主意

TL;DR – AI 生成的散文是有害的

使用 LLM 来生成完整的、实质性的文章通常是一个错误，因为它绕过了写作所带来的思考过程，注入了难以察觉的模糊或不准确的陈述，并破坏了读者对作者原创观点的隐性契约。

1. 写作是一种思维工具

“关于某件事进行写作，即使是你非常了解的事情，通常也会让你发现你并没有自己想象中那么了解它。” – Paul Graham

  • 将思想转化为文字的过程迫使你理清论点、暴露矛盾并填补证据中的空白。
  • Clara Collier (Complex Systems Podcast) 指出，每一次句子的修改都能揭示大纲是否合理；LLM 无法标记出糟糕的大纲，因为它从不“思考”结构。
  • Patrick McKenzie 补充说，强迫将多页的论点转化为散文会暴露出原本隐藏的漏洞。

结论： 如果你跳过写作步骤，你就跳过了使最终论点可靠的思维工作。

2. AI 散文既模糊又微妙地错误

  • 示例：Claude Fable 5 关于 AI 芯片走私的段落包含许多不精确的声明（例如，“出口管制仅与执法力度一样强”、“芯片体积小”、“庞大的全球供应链使走私具有吸引力”）。
  • 每个短语要么是陈词滥调，要么在事实上不准确，要么缺乏背景——这些问题知识渊博的作者会注意到并纠正。
  • Eric Schwitzgebel 指出，人类专家选择的词汇反映了细微的敏感性；LLM 缺乏这种细致的感知，并产生听起来合理但实际上是“幻觉”的陈述。
  • 作者的亲身经历：即使有详细的提示和完整的记录，AI 生成的会议纪要摘要仍然引入了微妙的模糊性。

结论： AI 撰写的文本充斥着低可见度的错误，这些错误会削弱可信度，并且需要专业知识才能发现。

3. 未披露的 AI 写作是粗鲁且具有误导性的

  • 读者假设文本反映了作者自己的推理；AI 生成的草稿违反了这一隐性契约。
  • 当作者在同事的电子邮件或报告中发现 AI 输出时，信任度会瞬间下降。
  • 标记 AI 生成的段落可以缓解这个问题，但大多数人避免披露，使这种做法变成了一种学术不端行为。

结论： 将 AI 撰写的散文作为自己的作品呈现，在道德上是有问题的，并会损害作者与读者之间的关系。

4. AI 辅助写作何时（如果有的话）是可以接受的？

使用场景 推荐的 AI 角色
转录音频、数据分析、文献检索、头脑风暴 完全生成（无需披露）
行级文案编辑、精简散文、修正语法 人工批准的编辑；每次更改都必须经过有意识的确认
短小、公式化的沟通（例如，常规状态邮件） 生成草稿后进行简短的人工编辑
直接引用 AI 输出（例如，“Claude 说……”） 如果归属明确，则允许
为公众受众生成全文 不推荐，即使有免责声明；质量和信任度会受损

结论： AI 作为外围任务的“工具”是有价值的，而不是作为核心写作过程的替代品。

5. 来自 Hacker News 的社区观点

“审查和改进 LLM 生成的工作文档比从头开始写更慢，而且质量更低。” – @patrickmay

  • 几位评论者呼应了主要观点：AI 生成的散文通常很模糊，需要额外的努力来清理，并且会削弱个人风格。
  • 少数人认为 LLM 可以通过提供替代措辞和捕捉填充词来“改进”技术写作（例如，@tptacek, @atdt），但他们强调作者必须保留最终控制权。
  • 其他人指出，对于非母语人士，AI 可以帮助翻译，但仍然建议明确标注（例如，@diego_moita）。
  • 少数人将这种警告斥为“卢德主义”，或声称生产力的提高超过了质量的损失（例如，@numitus），但在高票评论中，这些观点显然是少数。

结论： HN 上的共识与作者的论点一致：AI 应该增强而不是取代实质性写作。

6. 实践要点

  1. 除非经过大量人工修订，否则永远不要让 LLM 撰写你打算发布的草稿。 起草过程中的思维工作对于合理的推理至关重要。
  2. 仅将 AI 用于外围任务 – 转录、数据总结、头脑风暴和确定性的文案编辑。
  3. 当你逐字包含 AI 生成的摘录时，请务必披露；将它们视为引用的来源，而不是你自己的散文。
  4. 将 LLM 视为评论家，而不是合著者。 提示它指出歧义、建议替代方案或进行总结，然后由你自己决定保留什么。
  5. 投资于你自己的写作能力。 迭代起草，即使速度较慢，也能产生更清晰的论点并保持读者的信任。

7. 最终想法

即使 LLM 变得越来越强大，写作的“过程”仍然是一种独特的人类活动，它塑造思想、确保精确性并维护作者与读者之间的道德契约。在模型能够真正思考和自我审计之前，将实质性写作委托给 AI 在大多数情况下是一种得不偿失的捷径。

Sources

相关