OpenAI 民主输入 AI 计划

OpenAI 已启动一项资助计划，资助十项每项 100,000 美元的实验，旨在建立民主程序以确定 AI 系统应遵循的规则。此举旨在确保 AI 行为由多元公众视角塑造，而非由单一公司、个人或国家决定。

定义 AI 治理的民主程序

OpenAI 将“民主程序”定义为：一群广泛代表性的人员交换意见、进行审议讨论，并通过透明的决策过程达成结果。其目标是超越简单的法律框架，制定复杂且具适应性的 AI 行为准则。

Key components of this process include:

• 广泛代表性: 选择参与者以确保多元视角，包括少数群体或领域专家，具体取决于特定的政策问题。
• 审议: 使用能够揭示意见并帮助参与者基于价值而非误解理解和更新其观点的流程。
• 透明决策: 利用各种算法，如多数投票、液态民主或抽签（随机人群抽样）。

OpenAI 承认这些程序必须应对诸如特殊利益集团操纵、参与洗白以及少数或多数群体代表性不足等失效模式。

资助计划结构与要求

该计划向个人、团队或组织提供每项 100,000 美元的资助，以开发民主决策的概念验证原型。

参与与交付成果

• 参与规模: 每个原型必须至少吸引 500 名参与者。
• 开源要求: 项目期间开发的所有代码和知识产权必须在开源许可证下公开提供。
• 报告: 受资助者必须发布其发现和工作原型的公开报告。

评审标准

申请将根据若干技术和社会因素进行评估：

• 鲁棒性: 防止网络喷子和虚假账户的能力。
• 包容性: 包容不同背景和不同程度 AI 熟悉度的策略。
• 少数群体赋能: 确保不受欢迎或少数派的意见能够影响重大问题。
• 可扩展性: 倾向于虚拟流程而非面对面参与。
• 可读性与可操作性: 信任该过程的便利程度以及结果可应用于模型行为的程度。

正在考虑的政策问题

该资助聚焦于模型行为的政策问题，以便进行修改行为的 A/B 测试。该计划鼓励的细致问题示例包括：

• 个性化: AI 助手应与用户个人品味和偏好保持一致的界限。
• 公众人物: AI 应如何回应关于公众人物观点的问题（例如，中立性与提供来源）。
• 专业建议: AI 应在何种条件下提供医疗、财务或法律建议。
• 代表性: 生成模型在为诸如