反对使用人工智能进行实质性写作

使用人工智能生成实质性文本——例如博客文章、研究报告和深思熟虑的邮件——通常得不偿失，因为写作行为与思考行为密不可分。当作者将起草过程委托给大型语言模型（LLM）时，他们跳过了识别逻辑漏洞、精炼论点以及确保主张精确性所必需的关键认知努力。

写作过程即思考过程

写作不仅仅是记录已成型的想法；它还是形成这些想法的主要机制。将思想强行组织成结构化的句子和段落，会暴露出在提纲或头脑风暴阶段隐藏的矛盾和研究不足之处。

正如保罗·格雷厄姆所指出的，将想法付诸文字是一种“严苛的考验”，常常揭示出作者对某个主题的理解远不如最初以为的那样深入。同样，克拉拉·科利尔强调，从提纲到成文的过渡阶段，作者经常意识到某些观点不应并列，或者论点本身存在缺陷。通过使用 LLM 来弥合这一差距，作者避开了必要的认知挣扎，最终导致论点更弱，对主题的理解也更浅。

模糊错误与人工智能文风的“说服力”

人工智能生成的文本通常充斥着大量模糊、无信息量或微妙错误的短语，普通读者很难察觉。由于 LLM 的设计目标是统计上可能且具有说服力，它们经常生成听起来权威但缺乏信息价值的文风。

案例研究：人工智能芯片走私

在分析由 Claude 生成的一段关于人工智能芯片走私的段落时，发现了几个系统性问题：

• 模糊性：像“出口管制的强度取决于执行力度”这样的短语，几乎无法提供任何可操作的信息。
• 微妙错误：将人工智能芯片描述为“紧凑的”，忽略了走私物品通常是整台服务器的事实；声称全球供应链使走私“可行”这一说法也过于模糊。
• 误导性统计数据：提供从数万到数十万不等的估计值，但未说明年份或“高端芯片”的定义，容易误导读者，尤其是当较低的估计值很可能不准确时。
• 空洞修辞：以“政策被掏空”之类的结尾句收尾，往往只是“掌声灯”——听起来重要，但并未传递任何新信息。

由于人工智能的写作方式是“最大程度具有说服力”，这些错误比普通的人类错误更难被发现。这给编辑带来了巨大的认知负担，必须逐字审校以确保准确性。

作者与读者之间的隐性契约

在实质性交流中存在一种隐性契约：读者付出注意力，作为交换，作者应提供真实的思想和努力。当文本由人工智能生成却呈现为人类撰写时，这一契约就被破坏了。

在未披露的情况下使用人工智能写作被视为误导和无礼，类似于发送一份潦草的初稿却假装是精心打磨的成果。当读者发现文本是人工智能生成的，他们对内容和作者的信任都会下降，因为他们不再确定作者是否真的为所提出的主张投入了必要的思考。

建议的人工智能写作应用场景

尽管不建议将实质性文本的生成过程外包，但人工智能在增强人类思维而非取代思维时，可以成为强大的工具。

有益的应用场景

• 头脑风暴与分析：使用人工智能搜索信息、转录音频或分析数据，以支持写作过程。
• 校对与润色：使用人工智能进行行间编辑或精简文风，前提是每项修改都由人类明确接受或拒绝。
• 批评与打磨：请人工智能对草稿进行批评，或提供多种表达困难句子的方式，帮助作者找到最恰当的表达。
• 后勤与协调：起草简短、模板化的公司协调邮件，主要目标是效率而非实质性思考。

无效的应用场景

• 从提纲生成草稿：将要点直接转化为段落，这跳过了思考过程。
• 未披露的人工智能生成：将人工智能生成的文本冒充为自己的作品，会损害专业信任。

社区观点与反驳意见

技术专业人士之间的讨论表明，存在一种分歧：一部分人将写作视为认知练习，另一部分人则将其视为生产任务。

"我花了不少时间……审查并改进了一篇由 LLM 输出的工作文档。考虑到参与人数和最终投入的努力，我坚信手动撰写会更快，且产出质量更高。"

相反，有些人认为，对于非英语母语者或身处高工作量企业环境的人而言，人工智能是实现清晰与专业性的必要工具：

"我经常使用人工智能帮助我写邮件，几乎每次都能提供更简洁、结构更清晰的版本……如果这些工具对你可用却不用，我认为这会是[对读者时间的不尊重]。"

还有人指出，同样的逻辑也适用于软件工程，因为‘写代码就是思考’，而人工智能生成的代码往往也存在与人工智能生成文本类似的微妙、难以察觉的错误。