DeepMind Institute：一个用于 AGI 研究的全新跨学科平台

Google DeepMind 推出了 DeepMind Institute (DMI)，这是一个旨在发布有关向通用人工智能 (AGI) 过渡的跨学科研究和论文的发布平台。该倡议旨在为来自 Google DeepMind、Google 以及全球研究界的研究人员提供一个空间，让他们能够就社会应如何应对 AGI 带来的挑战和机遇发表富有创造性和见解的观点。

核心研究领域与首批论文

DeepMind Institute 专注于 AGI 发展及其社会影响的几个关键支柱，其首批出版物证明了这一点：

推理透明度与 AI 安全

DeepMind 研究人员 Rohin Shah 和 Anca Dragan 提出了“推理透明度”的论点。他们认为，监控 AI 的“思维链”为深入了解模型的内部推理过程提供了一个关键窗口，这对于检测和防止 AI 系统内部的“策划与欺骗”至关重要。

经济政策与 AGI 颠覆

在 Julian Jacobs 和 Alex Imas 的一篇论文中，该研究所探讨了 11 种不同的经济政策来管理潜在的颠覆。该分析评估了从轻微到重大颠覆的各种情景，并提出了诸如扩大失业保险、劳动所得税抵免 (EITC) 以及让公民拥有 AI 所产生利润份额的机制等政策。

前沿 AI 框架

Demis Hassabis 提出了一种测试前沿 AI 模型能力的动态方法。该框架旨在支持创新，同时激励前沿模型的负责任行为和负责任开发。

社会转型与“务实的乌托邦主义”

Stephen Cave 提出了一种基于谦逊与希望的“务实的乌托邦主义”，他认为社会必须主动决定在 AGI 改变世界时希望看到什么样的转型，而不是被动地应对 20 世纪的动荡。

社区观点与批判性分析

围绕 DeepMind Institute 发布的公众和社区讨论突显了关于该平台动机和性质的几个争议点和怀疑态度：

平台的性质

许多观察人士指出，DeepMind Institute 并不是一个新的非营利组织或独立的法律实体，而是一个发布平台，或者说是 Google DeepMind 的“内部智库”。

"简而言之：它不是一个新组织，也不是非营利性研究所。它就是一个 Substack/博客。" — @handle

战略政策引导

一些批评者认为，正是开发前沿模型的同一实体试图引导同样的政策讨论。这在一些人看来是一种利益冲突，或者是影响行业其他部分的战略举措。

"他们只是想引导 AI 政策讨论。这基本上就是一个内部智库。" — @handle

对 AGI 时间表的怀疑

关于 DeepMind Institute 关于 AGI “即将来临”的前提，存在着重大争议。一些社区成员认为，LLM 的缺陷继续证明我们距离实验室所声称的人类水平认知能力还远未接近。

"疯狂的是，这些实验室不断抛出完全未经证实的说法，比如“AGI 即将来临”。考虑到问题的严重性，我认为我们并没有比十年前更接近目标。" — @handle

竞争动态

一些分析师认为，呼吁对 AI 开发采取更谨慎的态度——正如 DMI 对安全和透明度的关注所见——是 Google 的一种战略举措，因为 Google 的行动速度可能比 OpenAI 等竞争对手要慢。

"反正已经落后了一点的 Google，非常乐意加入呼吁对 AI 开发采取更谨慎态度的行列。因此有了 DeepMind Institute。" — @handle