Anthropic 启动“难题计划”以应对 AI 对社会的影响

Anthropic 发起了一项新计划，旨在征集并公开追踪公众针对先进 AI 在社会、经济和伦理影响方面提出的最困难的问题的回答。这项努力旨在确保公司的 AI 模型开发符合公众利益及其作为一家公益公司（Public Benefit Corporation）的使命。

公众参与和“难题计划”

Anthropic 正明确邀请公众就 AI 对工作、社会和家庭的影响，以及 AI 推动科学和医学进步的潜力提交“难题”。公司已承诺公开追踪并报告为解决这些问题而采取的具体行动，包括透明地披露在哪些领域可能未能达到其既定目标。

现有的公益框架

作为一家公益公司，Anthropic 的使命是在确保先进 AI 模型带来的益处的同时，减轻其风险。公司已实施了多项结构性和基于研究的保障措施来支持这一使命：

• The Anthropic Institute: 一项致力于应对 AI 给社会带来的最重大挑战的研究工作。
• The Long-Term Benefit Trust: 一个提供公正监督的机构，以确保公司有效地推进其公益使命。
• AI Safeguards: 对保障措施的持续投入，以降低滥用风险，并对模型行为和内部运作（可解释性）进行研究，以使模型与有益的目标保持一致。
• Community Programs: 向科学家免费提供 AI 模型，并启动了一项将职业生涯早期的 Claude 用户与非营利组织配对的奖学金计划。

基于数据的公众情绪洞察

为了为其公众利益方法提供参考，Anthropic 进行了广泛的研究，以了解 AI 用户和非用户的希望与担忧：

• Anthropic Public Record: 一项针对 52,000 名美国人关于他们对 AI 技术的希望与担忧的公开调查。
• Claude User Surveys: 通过 Anthropic Interviewer 对分布在 159 个国家和 70 种语言的 81,000 名 Claude 用户进行的访谈。
• Qualitative Research: 与工作和传统受到 AI 影响的群体进行的数十场面对面焦点小组讨论和召集会议。
• Real-World Data: 通过匿名化的真实世界数据研究 Claude 的使用情况，以了解经济影响。