OpenAI 对齐项目资助

OpenAI 向 The Alignment Project 提供了 750 万美元的资助，该项目是由英国人工智能安全研究所（UK AISI）管理、Renaissance Philanthropy 执行的全球基金。此项资助旨在通过支持独立研究者和位于前沿 AI 实验室之外的概念性方法，来使全球对齐研究生态系统多元化。

资助规模与分配

The Alignment Project 现已成为独立对齐研究中规模最大的专项资助之一。OpenAI 约 560 万英镑的投入与其他公共、慈善及产业资助方共同将基金总额提升至超过 2700 万英镑。

资助分配如下：

• 项目资助：单个项目通常获得 5 万至 100 万英镑的资助。
• 支持：项目可获得可选的计算资源和专家支持。
• 范围：基金支持涵盖计算复杂性理论、经济理论、博弈论、认知科学以及信息理论与密码学等广泛研究领域。

独立研究在 AI 安全中的作用

独立研究对 AI 安全至关重要，因为它能够检验多样化的假设并发展可能不符合任何单一组织内部路线图的替代框架。OpenAI 表示，前沿实验室并不在所有有价值的探索上都拥有比较优势，尤其是在基础、概念性以及“蓝天”想法方面。

此项投资相当于对当前主流对齐方法可能无法按预期扩展的风险进行对冲。通过支持不相关的工作，生态系统能够确保即使现有技术路径在 AI 能力提升时未能持久，也仍有基础性突破可供利用。

与前沿实验室研究的整合

OpenAI 维持一套独立的内部对齐工作，专注于可扩展方法和迭代部署。迭代部署指在逐步提升模型能力的同时加强安全防护，以便及早发现问题并提供实际可行方案的具体证据。

虽然前沿实验室在需要海量算力和前沿模型的研究方面具备独特优势，OpenAI 仍将独立研究视为互补力量。目标是构建一个稳健且多元的生态系统，使内部实验室研究与外部独立研究并行进行，确保 AGI 的安全与惠益。

管理与遴选流程

该资助通过 UK AISI（隶属于科学、创新与技术部（DSIT）的政府研究机构）进行管理。OpenAI 的资金并未设立新的遴选机制或影响现有的审查流程；相反，它提升了当前轮次中已通过审查的高质量项目的资助规模。

UK AISI 之所以被选为本计划的合作伙伴，是因为其已建立的跨部门联盟——包括政府、学术界、慈善组织和产业界——以及其成熟的资助渠道和在管理针对严峻 AI 风险的研究基金项目方面的专业经验。