ChatGPT 正在将技术支持投诉发送给 404 Media——并代写邮件

发生了什么:ChatGPT 将日常技术支持投诉引导至一家新闻编辑室

独立科技新闻媒体 404 Media 报道称,ChatGPT 正在向遇到普通技术支持问题的人推荐其记者——并且在许多情况下,它会代用户撰写联系邮件。被大型平台封禁账号的用户向 ChatGPT 询问如何获得帮助;ChatGPT 得出结论,联系记者值得一试;然后它点名了 404 Media,并提供了一个具体的爆料邮箱地址。

报道中记录最完整的案例涉及一位俄罗斯男子,他的 Instagram 账号被封禁,他写信给 404 Media 称自己“失去了 13 年的个人照片、视频和回忆的访问权限”。收到这封邮件的记者认为它看起来像是 AI 生成的。当被问及是否使用 ChatGPT 找到该媒体时,该男子发送了一个对话链接,其中 ChatGPT 用俄语告诉他尝试给 404 Media 的 Jason 发邮件。

根据报道,ChatGPT 给用户的理由是,这件事的利害关系超出了社交媒体账号本身:

你失去的不仅仅是一个社交媒体账号的访问权限,还有可能失去多年来的个人照片、视频、对话和回忆。我认为联系记者值得考虑 [...] 我建议同时联系俄罗斯和国际记者。

随后,ChatGPT 列出了几家新闻媒体,包括 404 Media,并附上了其报道领域的描述和邮箱地址 jason@404media.co——并且代写了该男子发送的那封英文邮件。404 Media 表示,在文章发表前大约两周,他们开始回复这些邮件,并询问对方是如何找到该媒体的。答案是一致的:是 AI 聊天机器人建议联系他们的。在许多情况下,聊天机器人还撰写了邮件内容。404 Media 表示,这一结论是基于其对员工分享的几段 ChatGPT 对话的审查。

问题的范围并未完全公开

404 Media 的文章在开头部分之后设置了付费墙,开头部分以“本文仅供付费会员阅读”结束。公开可读的部分没有给出收到的邮件数量、这一趋势的时间范围,或涉及哪些平台或聊天机器人模型的细分。关于有多少人在这样做,或者这种现象增长了多少,任何估计都无法从现有报道中得到证实。

为什么 ChatGPT 会得出“给记者发邮件”的结论

Hacker News 评论者 xp84 认为,这种行为是两件事的可预测结果:记者爆料栏在网络上被大量索引和重复,以及模型将用户对事件的描述视为事实。

你对 Flock 还有其他了解吗?我们很乐意听取你的意见。使用非工作设备,你可以通过 Signal 安全地联系 Joseph(joseph.404)或 Jason(jason.404)

这种风格的征集栏,404 Media 和许多其他媒体会附加在调查报道后面,在训练数据和搜索结果中反复出现。评论者认为,当用户告诉聊天机器人某个平台不公平地对待他们时,模型会将这种不满与它所见过的针对此类不满的工具匹配起来:科技记者。

所以,当人们说他们发现了本世纪最大的企业罪行时,当然应该给 404 Media 的 Jason 发邮件!如果别人先抢到了独家新闻,他肯定会很沮丧。

xp84 还指出,聊天机器人周围的防护措施在区分“用户刚刚说的话”和经过验证的现实方面做得相对较少,除非是在模型被明确引导远离的领域。

令人不安的辩护:媒体关注是唯一的施压点

Hacker News 讨论串(189 分,68 条评论)中的几位评论者认为,ChatGPT 的建议并非对世界运作方式的幻觉——而是对破碎支持系统的准确描述。

所有这些垃圾邮件可能对 404 Media 来说很糟糕,但根本问题是 ChatGPT 是对的。如果你在这些过度膨胀、人手不足的公司遇到任何问题,你唯一的机会就是获得媒体关注。苹果公司著名地在他们的 App Store 开发者指南中写道“如果你跑到媒体那里诋毁我们,那永远不会有帮助”,但他们之所以必须写这句话,是因为这是谎言。跑到媒体那里是唯一有效的方法,这就是人们这么做的原因。

另一位评论者更简洁地表达了同样的观点:“ChatGPT 是对的,你从这些公司获得人工关注的唯一机会就是做类似的事情。走红,上新闻。也许如果你有钱和时间,你可以起诉他们。”对这一立场的反驳不是建议本身错了,而是它无法规模化:对一个人有效的建议,当数百万人被给予相同指令时,就变成了噪音。

平台优化的失败模式:看起来像机器人的真人

讨论中反复出现的主题是,自动化审核和 AI 驱动的支持创造了一个循环,普通用户被当作机器人对待,然后又被推向 AI 来逃避这种对待。

这客观上很搞笑。基本上每家大公司都全力投入 AI,结果机器人的数量(可能,我没有证据)爆炸式增长。然后因此,他们通过封禁来打击“潜在机器人”。[...] 然后因为他们全力投入 AI,你无法获得真正的人工帮助……只有一个被训练成总是说“不”的机器人。

那位评论者描述了三次相同模式的个人经历:一个新开的 Meta for Business 广告账户在采取任何操作之前立即被永久封禁;一个被机器人刷量的 Google Ads 广告系列,提交了证据但从未有人工回复,也没有退款;一个 Reddit 账户,其帖子因 karma 不足而被自动移除,直到最终有足够多的评论留存下来。评论中提到的共同模式是:不透明的执法、没有解决途径,以及没有可切换的竞争对手。

另一位评论者指出了潜在的期望问题:“仅仅因为这些企业不向你收费,并不意味着不应该有客户支持。如今,一个 Instagram 账号可以成为某人的职业。”

这是旧模式的重演

将困惑的最终用户引导到媒体收件箱并非新鲜事。一位评论者回忆说,大公司过去常常引导用户到 StackOverflow 寻求支持,结果同样嘈杂。ChatGPT 案例的不同之处在于,聊天机器人不仅仅是把用户重定向到一个社区——它是在选择一位具体的记者,引用一个具体的地址,并起草消息,这提高了接收新闻编辑室所面临的邮件洪流的数量和质量。

没有人计入的外部性

我认为人们还没有准备好面对 AI 代理将为真实人类创造的工作量。我们实际上是在把大规模垃圾邮件发送者的工具交到每个人手中,这对所有参与者来说都将令人难以置信地沮丧。“如果花 30 秒发出一个可能对我有利的提示是值得的,不管它为十几个人创造了 2 分钟的工作量”,这种逻辑放大到整个社会。

这种不对称——发送者花费几秒钟,每个接收者需要几分钟进行分类——是 404 Media 收件箱问题的机制。一位评论者提出了愤世嫉俗的市场解决方案,建议该媒体将入站流量视为商业机会,出售这些线索而不是抱怨它们。

404 Media 自身对情况的描述

讽刺是结构性的:404 Media 明确将自己定位为一家由人类运营的出版物,其给读者的开场信息表明其目标受众是“真实的人,而不是 AI 抓取器、机器人或搜索算法”。该出版物现在正在接收来自人类读者的 AI 生成邮件,而这些读者是被 AI 推荐来的。

关键要点

  • ChatGPT 正在向在大型平台遇到普通账号和技术支持问题的人推荐 404 Media——包括地址 jason@404media.co——并且在许多情况下代写邮件。
  • 404 Media 的证据是审查过的几段 ChatGPT 对话以及他们自己对入站发件人的回复;文章有付费墙,因此样本量不公开。
  • 这种行为可以合理地解释为:广泛索引的记者征集栏加上一个将用户对事件的描述视为既定事实的聊天机器人。
  • 评论者普遍同意 ChatGPT 的建议在如何从大型平台获得回复方面是准确的,并对其准确性在所产生的邮件量面前是否重要存在分歧。
  • 讨论串中的根本抱怨是,主要平台已经取消了人工客户支持,取而代之的是拒绝申诉的机器人,留下公开曝光或诉讼作为仅存的杠杆。

Sources