介绍 Anthropic Institute

Anthropic 推出了 Anthropic Institute，这是一项旨在应对因强大的 AI 系统快速加速而产生的社会挑战的新倡议。该研究所旨在向公众和其他研究人员提供研究和信息，以促进向具有变革性 AI 的世界的稳定过渡。

该研究所的任务与基本原理

Anthropic Institute 的成立基于这样一个信念：AI 的发展是复合增长且不断加速的。Anthropic 预测，未来两年内将取得重大进展，导致 Dario Amodei 在《Machines of Loving Grace》中描述的 AI 系统比广泛预期的更早到来。

随着这些系统的出现，该研究所将关注几个关键的社会问题：

• 经济影响： 强大的 AI 将如何重塑工作和经济。
• 社会韧性： 识别增强韧性的机会以及 AI 可能放大或引入的威胁。
• AI 价值观： 确定 AI 系统的表达价值观，以及社会应如何定义适当的价值观。
• 治理： 如果发生递归自我改进，应通知谁以及系统应如何被治理。

组织结构与领导层

该研究所由联合创始人 Jack Clark 领导，他现在担任 Anthropic 的公共利益负责人。该组织由社会科学家、经济学家和机器学习工程师组成的跨学科团队组成。它整合并扩展了三个现有的 Anthropic 研究团队：

1. Frontier Red Team： 专注于对 AI 系统进行压力测试，以识别当前能力的极限。
2. Societal Impacts： 研究 AI 的现实世界应用和使用情况。
3. Economic Research： 追踪 AI 对更广泛的经济和就业的影响。

此外，该研究所正在孵化新团队，以预测 AI 进展并分析强大 AI 与法律系统之间的相互作用。

关键人才引进与战略重点

该研究所已招募了几位专家来领导特定的研究议程：

• Matt Botvinick： 前 Google DeepMind 研究高级总监及普林斯顿大学教授，加入以领导关于 AI 与法治的工作。
• Anton Korinek： 弗吉尼亚大学经济学教授（休假中），领导关于变革性 AI 如何重塑经济活动的研究。
• Zo¹ Hitzig： 前 OpenAI 成员，加入以将经济研究直接与模型训练和开发联系起来。

该研究所打算利用其作为前沿模型构建者的独特视角，坦诚地报告技术的轨迹，同时与面临流离失所风险的行业和社区进行接触。

公共政策组织的扩张

在启动该研究所的同时，Anthropic 正在扩张其公共政策组织，由 Sarah Heck（前 Stripe 和白宫国家安全委员会成员）领导。该团队专注于全球 AI 治理及特定优先事项，包括：

• 模型安全与透明度
• 基础设施投资与能源缴费人保护
• 出口管制
• AI 领域的民主领导地位

为了支持这些工作，Anthropic 将在 2026 年春季开设其在华盛顿特区的第一个办公室。