AI正在摧毁作者与读者之间的信任:《大西洋月刊》文章与Hacker News辩论

《大西洋月刊》于2026年11月12日发表了瑞秋·卡迪什的文章《AI正在摧毁作者与读者之间的信任》。文章的副标题直接点明了论点:随着文学骗局的泛滥,作者不再知道他们的读者是否真实,读者也不再知道作者是否真实。随后的Hacker News讨论(285分,177条评论)并未将这篇文章仅仅视为一个狭隘的出版故事,而是将其视为一个案例研究,探讨生成文本如何破坏作者与读者之间的基本互惠关系。

触发事件:一位小说家被质问一个她从未写过的情节

卡迪什以2025年末的一个签书会场景开篇。一对中年夫妇走近她的桌子。丈夫患有帕金森病,想讨论她的小说《墨之重》。他相信小说中有一个患有帕金森病的角色,选择协助自杀而非忍受病情恶化。卡迪什并没有写过这个情节。角色海伦·瓦特在小说中并未结束自己的生命。卡迪什怀疑误解源于之前的一次ChatGPT会话,模型对海伦的故事情节给出了错误的描述。这次遭遇将关于模型幻觉的抽象担忧变成了现实中的对峙:一个读者基于一个并不存在的情节对一本书形成了道德上的反对。卡迪什问道:“还有多少人被类似地误导了?”

文章的框架:文学骗局,不仅仅是幻觉

《大西洋月刊》的副标题将问题框定为文学骗局以及错误信息。本次分析可用的文章抓取文本包含开篇轶事和出版元数据,但不包含文章的完整正文。从来源可以确定的是,卡迪什将AI对作者作品的错误描述与文学市场信心的更广泛丧失联系起来。Hacker News的评论用关于亚马逊自助出版渠道的具体说法填补了论点中市场的一半。

Hacker News:AI垃圾内容作为对发现机制的拒绝服务攻击

评论者描述了供应冲击。@sarreph指出,亚马逊允许个人每周最多上传六本书:“每个账户大约一天一本书。没有人类作者会每天出版一本书。”@danielodievich转述了一位朋友多年来自助出版科幻三部曲的经历。这位朋友说,他六年前的第一本书和第三本书之间的差距已经被自助出版的垃圾内容填满,这些内容正在对所有人进行拒绝服务。他报告说有人每年出版50本书,并总结了骗局经济学:“花5美元的计算成本制作一本垃圾书在亚马逊上出版,从不知情的五六个人那里产生30美元的收入,这是值得的,所以骗子/垃圾制造者会这么做。”

@internet_points引用了作家协会首席执行官玛丽·拉森伯格的话:“亚马逊花费大量时间和精力试图阻止这些[假]书被发布,但这总是一场追赶游戏。”该评论者随后质疑了这一前提:“他们真的吗?他们从中抽成;他们有激励让人们被骗。”这种平台执法与平台收入之间的紧张关系贯穿了整个讨论串。

@GeoAtreides表示同人小说和网络连载领域已被淹没:“2024年之后写的一切都散发着AI的味道,其中大多数,超过90%是明显的AI。”该评论者引用了风格上的迹象和元迹象,如不切实际的输出量和同人小说的Patreon账户。@beacon294认为,在生成式AI出现之前,非虚构类作品已经因“欺诈性博客文章到非虚构类‘畅销书’的渠道”而受损。

结构性问题:作者现在可以比读者阅读更快地创作

@auntienomen提出了最尖锐的结构性观点:骗局不是最严重的问题。LLM让作者生成散文的速度超过读者阅读的速度,这打破了一种隐含的契约。无论读者花多长时间阅读一篇作品,作者几乎肯定花了更长的时间来写它。即使是糟糕的散文也携带了一个信号:作者认为这部作品值得投入真实的时间。该评论者和同事们采纳了一条准则:“你花在写作上的时间应该比你期望读者花在阅读上的时间多。任何少于这个的都是不尊重的。”@glitchc将同样的想法压缩为:“当阅读比写作更费力时,信任不可避免地成为受害者。”

反方观点:信任早已被破坏

几位评论者抵制了AI摧毁了先前健康信任的框架。@bluecalm认为,对书面文字的普遍信任从来都是错误的:“仅仅因为某物是某人写的或由某家报纸出版的,就信任它,在AI出现之前就是一个巨大的错误。”该评论者描述了在报纸对自己专业领域的报道中发现错误,并推断到他们无法判断的报道。在这种观点下,AI暴露了脆弱性,而不是创造了它们。@ericmay说许多出版物“从来就不值得信任”,而AI正在将一种通过偏见写作和充满广告的页面赢得的怀疑正式化:“现在潮水退去,我们可以看到谁一直在裸泳。”@CGMthrowaway指出,小说、专栏文章、回忆录和歌曲长期以来一直使用未署名的代笔人,新闻可以由情报人员或公关专业人士撰写,立法由游说者撰写。在这种观点下,对来源出处更加警惕并非坏事。@photochemsyn将批评扩展到媒体所有权:AI使得追踪谁拥有出版物以及其文章是否偏向所有者的经济利益变得更加容易。

什么能重建信任?

评论者提出了几种机制,但没有一种单独足够。@barbariangrunge将问题框定为“反向图灵测试:一个人能否说服另一个人(或机器人筛选器)他们是人类?”并呼吁立法禁止AI模仿或冒充人类,并要求对AI生成的艺术进行标注。@unknownian称模仿人类艺术的生成式AI为“反发明”,并认为应该像“数字毒品”一样对其进行监管。@juanre建立了一个网站“可能由人类制作”,用于测试一篇作品是否花费了人类兼容的时间并带有人类写作特征。该网站的前提是伪造这些信号是可能的但代价高昂:至少需要与人类写作相同的时间。@j45认为人们应该继续阅读书籍,用自己的笔和光标写作,以保持语言技能。@DeepOntology提出了一个重新框架:问题不在于AI摧毁信任,而在于它迫使信任建立方式进行重新配置。该评论者说,由外部资本注入驱动的颠覆是有害的,而对不对称权力关系的颠覆可能是受欢迎的。

文化氛围:讽刺、低背景钢和人类签名

@dsign写了一个讽刺性的2110年场景:埃及亚历山大的作家街,小说家们在街头咖啡馆用自创的色阶编码打字;蒙特克里斯托岛上的本笃会修士按小时出租机械打字机;著名作家从悬崖上跳下,而不是忍受使用AI的指控;AI文学对大众免费且丰富,而有鉴赏力的人更喜欢由人脑手工装订的墨迹书籍。@FeteCommuniste提供了一句话的文化分期:“2023年之前的写作是文化的低背景钢。”@chistev引用了罗尔德·达尔的《伟大的自动语法机》,一个关于生产可销售小说的机器的故事。这些引用指向同样的焦虑:一旦文本变得廉价,稀缺的商品就变成了人类花费、注意力和责任感的证据。

结论

《大西洋月刊》文章的开篇轶事小而具体:一个读者在聊天机器人错误描述后对一个情节点产生了误解。Hacker News的讨论串展示了为什么这个小错误会扩展成一个系统性问题。当平台允许工业规模的上传,当骗局经济学偏向数量而非质量,当生成速度超过消费速度时,读者就失去了将努力和来源出处作为信任信号的能力。讨论串中的反方观点同样重要:对书面权威的信任本来就不均衡地赢得,并且经常被利用。AI并没有创造那段历史,但它使旧的验证问题变得不可避免。

Sources

相关