OpenAI 通用人工智能（AGI）开发的运营原则

OpenAI 已制定一套指导原则，旨在确保通用人工智能（AGI）的发展惠及全人类。该组织强调，虽然 AI 有潜力显著提升个人能动性和社会繁荣，但结果取决于当前所做的决策，以防止权力集中并管理新兴风险。

AI 权力的民主化

OpenAI 旨在防止 AI 权力被少数公司垄断。为此，该组织主张采用去中心化的方法，让尽可能多的人能够获得通用 AI。这种民主化不仅仅是技术的简单访问；OpenAI 表示，关于 AI 的关键决策应通过民主过程和平等原则制定，而不应仅由 AI 实验室决定。

赋能与用户自主权

OpenAI 将 AI 视为一种工具，用于赋能个人实现目标、学习并追求梦想。该组织的产品策略侧重于使用户能够可靠地完成日益有价值的任务，同时提供满足多样化全球需求所需的自主权和灵活性。

为了在赋能与安全之间取得平衡，OpenAI 在面对不确定性时采取谨慎偏误的政策。目标是将灾难性危害和局部或腐蚀性的社会影响降至最低，仅在收集到更多证据时才放宽限制。

普遍繁荣的策略

OpenAI 认为，提供易于使用且有强大算力支持的 AI 系统可以推动新价值创造并提高生活质量，尤其是通过科学发现。为了实现这一普遍繁荣的愿景，OpenAI 确定了两项主要要求：

1. 经济模式演变：政府可能需要考虑新的经济模式，以确保广泛参与价值创造。
2. 基础设施扩展：需要建设大规模的 AI 基础设施并开发新技术，以降低该基础设施的成本。

OpenAI 指出，其在算力和全球数据中心扩张方面的投资，以及向垂直整合的转变，都是出于降低成本和提高可及性的目标。

韧性与迭代部署

OpenAI 认识到 AI 带来的新风险无法由单一实验室解决。该组织强调采用全社会范围的风险管理方法，并举出两个具体例子：

• 生物安全：防御新病原体的创建需要病原体不可知的对策。
• 网络安全：利用 AI 模型保护开源软件和关键基础设施，同时训练模型帮助用户创建更安全的软件。

OpenAI 采用迭代部署策略，使社会能够随着时间的推移应对、整合并理解每一级 AI 能力。这还辅以技术对齐工作，以及承诺在推进进一步开发之前，与政府和国际机构合作解决严重的安全或社会问题。

适应性与透明度

OpenAI 承认 AI 的涌现行为是不可预测的。因此，该组织承诺保持适应性，并随着学习的深入更新其立场。这包括在某些时期可能牺牲部分用户赋能以换取更高韧性的可能性。

借鉴 GPT-2 初次发布的经验，OpenAI 表示它通过谨慎推进能力并从真实世界互动中学习来拥抱不确定性。该组织承认其全球影响力的提升，并承诺在其运营原则何时以及为何发生变化时保持透明。