OpenAI 经济影响研究计划

OpenAI 正在建立一个协作研究框架，以衡量大型语言模型 (LLM) 对个人和社会产生的经济影响。该计划旨在产生高质量的证据，为 AI 部署政策、系统设计和公共政策干预提供参考，从而最大限度地提高人类繁荣并最大限度地减少经济损害。

经济影响研究的目标

OpenAI 寻求开发严谨的工具来衡量 AI 模型如何影响经济，以确保通用人工智能 (AGI) 造福全人类。该组织确定了这项研究将影响决策的三个主要维度：

• AI 部署政策： 确定模型如何以及何时向公众发布。
• AI 系统设计： 在开发 AI 系统期间，根据预测的经济结果做出技术决策。
• 公共政策干预： 提供现实世界的证据，帮助政府和机构制定缓解风险的政策。

通过研究当前的模型，如 Codex、DALL-E 2 和 ChatGPT，OpenAI 打算为评估未来更强大的系统的安全性和经济可行性奠定基础。

关于经济风险和不平等的背景

OpenAI 指出，虽然目前由于 AI 导致的广泛技术性失业的直接风险较小，但劳动力市场的影响将在不同类型的工人之间存在显著差异。该公司强调了几个系统性问题：

• 繁荣分配不均： 美国过去四十年的历史趋势显示出令人担忧的经济分化速度和机会获取的不平等。
• 福祉影响： 即使是暂时的失业冲击也可能对个人福祉产生广泛的负面影响。
• 社会分歧： 不平等的经济不平等有可能放大现有的社会分歧。

研究人员和公司的协作框架

OpenAI 正在优先考虑外部合作伙伴关系，而非仅限于内部研究，以扩大证据基础。该计划为参与提供两条不同的途径：

对于博士级研究人员

OpenAI 正在征集博士级研究人员和在读博士生的意向书。潜在的合作可能包括：

• 整合进一个更大的研究群体。
• 参与红队演练 (red teaming) 练习。
• 提供 API 额度资助。
• 未来与构建基于 LLM 产品的客户建立联系，以研究对工人和消费者的直接影响。

研究人员将根据其背景、合作动机的清晰度以及研究兴趣与决策的相关性进行评估。

对于公司和用户

OpenAI 正在为 OpenAI 工具的企业用户和用户创建一个门户，以便他们为研究做出贡献或赞助研究。其目标是促进外部研究人员、AI 开发人员、采用 AI 的企业和受影响的工人之间的讨论，从而将更广泛的视角纳入 AI 开发的路径中。