OpenAI 民主输入 AI 资助计划更新

OpenAI 已完成其民主输入 AI 资助计划的初始阶段，为 10 支全球团队提供资金，以开发用于 AI 集体治理的工具和方法。该倡议旨在通过创建可扩展的民主流程来收集和实施公众意见，从而使 AI 模型行为与人类价值观保持一致。

民主 AI 治理创新

OpenAI 向从 113 个国家的近 1,000 名申请者中选出的 10 支团队授予了 100,000 美元的资助。这些团队利用法律、新闻、社会科学和机器学习等多元专业知识，创建了参与式互动的原型。在这些过程中，AI 被广泛用于促进转录、数据合成和定制聊天界面。

资助项目概述

  • 案例法用于 AI 政策：创建了一个 AI 交互情景案例库，以实现基于案例法的判决，涉及专家和利益相关者。
  • 用于民主政策制定的集体对话：利用集体对话来扩大民主审议规模，并识别政策制定中的共识领域。
  • 规模化审议：开发了 AI 辅助的视频通话，以在小组对话中实现民主审议。
  • 民主微调：通过聊天对话提取价值观，创建用于模型微调的“道德图”。
  • 激活 AI：构建了一个利用实时大规模参与和“社区笔记”式算法进行对齐的平台。
  • 生成式社会选择：运用社会选择理论将自由文本意见提炼为简洁且相对具代表性的立场列表。
  • Inclusive.AI：使用去中心化治理机制（如 DAO）赋能在 AI 决策中被忽视的群体。
  • 让 AI 透明且负责任（Rappler）：结合线下和线上流程，促进对复杂、两极分化议题的讨论。
  • Ubuntu-AI：开发了一个平台，确保非洲创作作品得到包容性呈现，并为贡献者提供报酬。
  • vTaiwan 与查塔姆研究所：改编 vTaiwan 方法论，创建递归且相互关联的 AI 治理参与流程。

关键技术与社会经验

该资助计划揭示了在收集公众意见以实现 AI 对齐方面的若干关键挑战和洞见。

公众舆论的波动性

公众对 AI 行为的看法可能经常变化，甚至日常波动。这表明，收集意见的流程必须既能捕捉基本且稳定的价值观，又要足够敏感，以检测随时间出现的显著舆论转变。

数字鸿沟与参与偏差

在数字和文化鸿沟之间招募参与者仍是重大障碍。团队观察到，线上招募的参与者往往对 AI 更加乐观，这与对 AI 模型行为的整体支持度更高相关。此外，在 Tagalog、Binisaya 和 Hiligaynon 等语言中，语音识别工具（如 Whisper）的技术限制导致转录困难，给 Rappler 团队带来了挑战。

管理两极分化与多样性

在两极分化的群体中寻找妥协十分困难，尤其是当少数群体持有强烈观点时。然而，集体对话团队发现，通过其流程生成的政策指南——包括在疫苗信息等分歧议题上——在民主党、独立派和共和党中获得了超过 72% 的支持。

存在于实现广泛共识与体现观点多样性之间的持续紧张关系。生成式社会选择团队利用数学理论突出关键立场，并展示多元意见，同时寻求共同点。

公众信任与 AI 在治理中的角色

参与者对民主机构和 AI 开发者应赋予 AI 系统的权力程度持谨慎态度。当 AI 用于提升效率（例如生成政策条款）且配合非 AI 决策环节（如专家策展或最终人工投票）时，信任度更高。

实施与未来方向

OpenAI 正在组建一个由研究人员和工程师组成的“集体对齐”团队。该团队承担两项主要任务：

  1. 系统实现：设计并实现一个系统，将公众对模型行为的输入直接收集并编码到 AI 系统中。
  2. 试点整合：继续与外部顾问和资助团队合作，开展试点，将资助计划期间开发的原型纳入 OpenAI 模型的引导中。

Sources