The Anthropic Institute Research Agenda

Anthropic Institute (TAI) 是一项研究计划，旨在通过利用对模型开发和部署数据的内部访问权限，调查前沿 AI 系统对社会、经济和安全的影响。TAI 旨在发布这些研究结果，以帮助政府、外部组织和公众在 AI 开发方面做出明智的决策。

Core Research Pillars

TAI 的研究议程分为四个主要关注领域，每个领域旨在应对由强大的 AI 部署所带来的特定风险和机遇。

Economic Diffusion

这一支柱侧重于 AI 的部署如何改变全球经济，以及如何确保这些变化造福公众。TAI 将利用并扩展 Anthropic Economic Index，以提供关于劳动力影响和 AI 使用情况的高频、细粒度数据。

关键研究领域包括：

• AI Adoption: 调查决定全球 AI 获取权限的因素、企业如何采用该技术，以及 AI 是否遵循以往“通用技术”的模式。
• Productivity and Growth: 分析 AI 对创新率的影响，并探索旨在传播经济收益的预分配或再分配机制。
• Labor Market Impacts: 研究 AI 如何使现有任务自动化，会出现哪些新工作，以及当 AI 吸收了传统上用于培训专家的初级任务时，“专业人才培养链”会受到何种影响。
• Workplace Evolution: 研究如果 AI 大幅降低了有偿工作的中心地位，那么在人类生活中，有偿工作将扮演何种角色，以及社会如何应对这一转型。

Threats and Resilience

TAI 的研究侧重于 AI 的“双重用途”性质，即提高健康或教育水平的能力可能同时使监控或生物武器成为可能。其目标是开发预警系统并提高社会韧性。

关键研究领域包括：

• Risk Assessment: 构建可观测性工具以检测 AI 被用于压迫的行为，并开发市场驱动的方法来为可预测威胁（如 AI 增强的网络攻击）定价。
• Offense-Defense Balance: 分析 AI 是否在网络、生物领域或指挥控制系统中，在结构上使攻击者受益。
• Crisis Mitigation: 为涉及 AI 系统的危机场景规划地缘政治基础设施（公司对国家或公司对公司）。
• Defensive Mechanisms: 探索如何缩小 AI 进步的快速步伐（数月）与监管和基础设施响应的较慢步伐（数年）之间的差距。

AI Systems in the Wild

这一领域研究人类、组织与 AI 系统之间的相互作用，重点关注这些相互作用如何改变人类行为和制度结构。

关键研究领域包括：

• Individual and Societal Impact: 研究“群体认识论”（即共享的 AI 使用如何影响信念和问题解决）以及由于顺从 AI 判断而导致的人类批判性思维能力的退化。
• Human-AI Management: 研究人类如何管理由人类和 AI 组成的混合团队，反之亦然。
• Governance and Reliability: 将现有法律（例如关于弃船的航海法）应用于自主 AI 智能体，并确保智能体拥有独特且可靠的身份。
• Model Values: 衡量 AI “宪法”对已部署模型行为的影响。

AI-Driven R&D

TAI 正在调查“AI 驱动的 AI 研发”，即使用 AI 系统来开发其自身的后续版本，这可能导致递归式自我改进。

关键研究领域包括：

• Governance of AI R&D: 确定人类如何能够对自主改进自身的 AI 系统保持可见性和控制力。
• Acceleration Control: 识别干预点以减缓或改变“智能爆炸”的速度，并确定哪些实体（政府或公司）应该行使该权力。
• Telemetry: 开发指标来衡量 AI 研发的总体速度，作为递归式自我改进的早期预警信号。
• General Scientific Research: 分析 AI 驱动研究的“技术树”，以查看哪些科学领域正在加速，以及如何应对诸如药物发现等领域的社会外部性。

Integration with Anthropic Operations

来自 The Anthropic Institute 的研究结果将直接影响 Anthropic 的公司决策，包括数据共享（如 Economic Index）和技术发布方式（如 Project Glasswing 的网络威胁分析）。

此外，TAI 的工作将为 Long-Term Benefit Trust (LTBT) 提供输入，该信托旨在确保 Anthropic 的行动针对人类的长期利益进行优化。为了支持这项研究，Anthropic 提供为期四个月的资助 Anthropic Fellowship，供研究人员在 TAI 的指导下解决这些特定的议程问题。