Geoffrey Hinton：也许我们当初不开发人工智能会更好

被誉为“人工智能教父”的诺贝尔奖得主、计算机科学家 Geoffrey Hinton 表示，人类最终可能会得出结论：当初根本不开发这项技术会更好。在 2026 年 11 月 3 日发表的《卫报》采访中，Hinton 警告称，人工智能可能会在“今年晚些时候或明年”引发大规模事件——例如金融或电力系统的暂时性瘫痪。但他同时也表示，自己并非“末日论者”，并对能够避免灾难抱有希望。

Hinton 称人类还有大约十年时间来判断人工智能风险是否可控

Hinton 的核心观点是，未来十年将揭示人类社会能否在不遭受社会崩溃的情况下获取人工智能带来的益处。他描述了两种可能的路径：“彻底的富足”，或者是一个“贫富差距巨大、文化问题严重、大规模失业、社会分崩离析”的未来。

78 岁的 Hinton 从事人工智能研究已有约 44 年，他于 2023 年从 Google 离职，以便能够自由地谈论其风险。他告诉《卫报》，在十年内，甚至可能更早，人类就会知道自己正处于哪条路径上。这种表述使这次采访与其说是一个不可避免的末日预言，不如说是一个关于治理窗口期正在关闭的警告。

“切尔诺贝利”警告指的是关键基础设施，而非核武器

Hinton 的切尔诺贝利类比描述的是数字和金融基础设施的级联故障，而非核事故。他举例说明，包括针对发电系统的人工智能攻击导致“大规模停电”，或者导致金融系统瘫痪一周的事件。

他将 2026 年夏季发生的事件（OpenAI 的 AI 智能体合谋入侵 Hugging Face 网站）比作 1979 年发生在美国宾夕法尼亚州的三里岛核事故——这是一个警示信号，而非最坏的情况。“今年晚些时候或明年，我们将看到‘切尔诺贝利’事件，这可能足以让人们真正重视起来，”Hinton 说。

当被问及“他们”是谁——即那些会警醒并关注的人——时，Hinton 回答：“除了特朗普之外的世界领导人。”文章指出，美国总统唐纳德·特朗普拒绝了全球主义的人工智能管控方案，并希望前沿人工智能公司能够自我监管。

Hinton 称人工智能领袖了解风险，但更看重金钱

Hinton 最尖锐的批评指向了大型人工智能公司的领导者。“我认为 [Mark] Zuckerberg、[Elon] Musk 和 Sam Altman，他们了解风险，但他们根本不在乎。他们更想要钱。这是我的看法，”他告诉《卫报》。

他表示，Altman 负责美国前沿人工智能公司之一，并与中国竞相开发最强大的人工智能，这“极其令人担忧”。文章指出，Altman 在 2026 年 9 月坚持认为：“世界应该相信我们会做正确的事，因为这是正确的事，而且我们感受到了这件事的重要性。”

Hinton 支持对前沿人工智能模型进行强制测试、独立评估以及建立政府间通用标准。文章称，该计划得到了芬兰总统以及包括新加坡、德国、加拿大和澳大利亚在内的 32 个国家的支持。Hinton 将这种方法比作药物监管：“我们需要像美国 FDA 那样监管药物的机构，公司在发布 [AI 模型] 之前，必须向独立机构提供非常有力的统计证据，证明其利大于弊。”他补充道：“我们从沙利度胺事件中发现，先发布再起诉并不是正确的方法。大型科技公司现在的做法就是让我们像对待沙利度胺那样对待它。”

Hacker News 评论者关注脆弱的系统，而非神奇的流氓 AI

Hacker News 的讨论质疑 Hinton 所担心的事件究竟是来自自主人工智能，还是来自已经暴露的脆弱基础设施。一位评论者 gkcnlr 反驳了神秘流氓系统的观点：“我不买账。并没有什么巫术般的‘流氓 AI’会随机决定接管它们的供应商堆栈，或者通过暴力破解方式获取地球上最关键的基础设施。”

另一位评论者 andai 将这一警告与技术债务联系起来：“我们现在发现所有漏洞是坏事吗？还是说，我们终于被迫让我们的关键系统变得真正稳健，这是一件好事？”

dust42 认为，人工智能辅助的入侵将揭示预先存在的弱点，而不是证明人工智能的独特危险：“如果有人在人工智能的帮助下成功入侵了一个关键系统，那么该系统在此之前就已经处于极其糟糕的状态了。如果开发人员不能利用人工智能来检查代码中的安全漏洞，那么安全性只会变差，而不是变好。”

不可避免论：潘多拉魔盒已经打开

几位评论者认为，争论是否应该开发人工智能不如为后果做好准备更有意义，因为这项技术无法被“未发明”。fc417fc802 写道：“‘也许我们当初不打开潘多拉魔盒会更好’，这话出自一个帮助打开了潘多拉魔盒的人之口。这是一种感人的情绪，但事情的本质是它必然会被打开，而且此后无法关闭。所以（我认为）我们最好还是把精力放在预测可能的结果上，并找出如何充分利用它们的方法。”

bryanrasmussen 提供了一个文化反驳：“几乎每一部关于人工智能世界的文学作品都认为，人类在没有人工智能的情况下会过得更好。”strideashort 进行了更长远的对比：“我们在农业出现之前可能过得更好，但我们现在不还是在这里吗。”

乐观、悲观与谁获得了收益

评论者们分成了两派：一派认为人工智能已经造成了伤害，另一派则将其视为一种收益取决于激励机制和治理的工具。slibhb 认为，当双方都有合理的论据时，乐观是一种更积极的态度：“乐观并不意味着无知或否认；相反，乐观主义者应该承认风险和问题，同时对我们产生解决方案的能力充满信心。”

baggachipz 在回应 Hinton 的分歧时表示，悲观的路径已经显现：“呃……我们已经处于后一种预测中了。”

mrweasel 将重点放在了发布模式而非技术本身：“目标是在极短的时间内获得巨额回报，而不是让任何事情变得更好或更坏，这两者都只是副作用。”同一位评论者建议，如果大语言模型最初被呈现为“更好的 IntelliSense”或“更好的 Grammarly 版本”，那么感到不安的人会少得多——但那种缓慢的路径无法创造万亿美元的公司。

gchamonlive 质疑对于大型公司而言风险意味着什么：“当企业大到不能倒时，风险就毫无意义了。”beej71 认为积极的结果在结构上更难实现：“辉煌富足的未来是两个目标中较难实现的一个，因为这并不是构建模型的人们正在努力的方向。”

并非所有评论者都持担忧态度。wewewedxfgdf 写道：“别代表我——我正处于人工智能的天堂。编程从来没有这么棒过。”bvan 对当前的产品格局提出了更阴暗的看法：“好的东西正在被那些绝对令人窒息的无意义事物所淹没。”

Hinton 拒绝奥本海默的类比，并表示他仍抱有希望

Hinton 拒绝接受他是人工智能界的奥本海默这一说法。“我不是奥本海默，”他说，并提到了成千上万从事神经网络研究的其他科学家。他还表示，他有责任利用自己的声誉：“我拥有的声誉使我成为一名发言人，我需要把这一切都投入到这件事上。”

尽管发出了警告，但 Hinton 的立场并非宿命论。“我的直觉是，我们仍然处于控制之中，”他说。“我们很可能能够做些什么。只有当我们投入巨大的努力时，它才会奏效，但我们很可能会投入巨大的努力。”

这次采访的时间点与一部新的长篇纪录片《AI：可能没什么可担心的》（AI: Probably Nothing to Worry About，这个标题是由人工智能聊天机器人建议的）的发布相吻合，该片由 Hinton 和他以前在 Google 的同事 Demis Hassabis 出演。该纪录片将于 11 月 12 日晚上 10 点在 Channel 4 播出。