OpenAI 加强国家安全领域的民主监督

TL;DR

OpenAI 宣布了一项为期一年的计划，旨在协助民主监督机构监控 AI 驱动的国家安全系统，并承诺投入 500 万美元用于培训、技术支持和 OpenAI 额度，以使监督工作更加有效、透明且值得信赖。

为什么监督必须随 AI 演进

传统的监督机制是劳动密集型的，无法跟上以机器速度运行的 AI 系统。随着 AI 加速国家安全领域的决策过程，错误可能会在人类察觉之前就已扩散，因此，快速且可扩展的监督至关重要。

OpenAI 政府 AI 使用指南原则

• 人类与机构判断优先 – AI 工具旨在增强而非取代授权机构和监督机构的法律与政策判断。
• 可追溯性与可读性 – 监督审查人员必须能够在保护机密、隐私和安全敏感信息的同时，理解 AI 如何对决策做出贡献。
• 赋能民主监督 – AI 的部署应旨在帮助监督机构扩展其审查流程，确保其使用符合职责范围且负责任、可读。

OpenAI 如何计划加强监督

在接下来的十二个月中，OpenAI 将：

1. 确定实际应用场景 – 与授权官员合作，精准定位 AI 工具或技术支持可以在何处使监督工作更加有效。
2. 提供财务与技术资源 – 为民主监督机构分配 500 万美元用于培训、技术援助和 OpenAI 额度，以促进负责任的 AI 采用与评估。
3. 试点透明审查工具 – 与监督机构合作，开发并测试能够展示 AI 辅助政府决策的输入、输出及使用背景的工具。在可行的情况下，这些工具将是模型无关的，且参与机构将保留对证据和调查结果的独家控制权。
4. 与公民社会及专家互动 – 纳入公民社会团体和技术专家的反馈，以塑造工具开发并应对更广泛的责任问题。

预期成果与评估标准

OpenAI 将通过授权审查人员是否能更有效地履行其监督义务，以及公众是否对政府 AI 系统按预期使用获得更强的信心来衡量成功。持续的监测、事件审查和经验教训将反馈到更强大的保障措施和未来的模型开发中。

对民主治理的更广泛影响

AI 可以集中权力，也可以使民主机构更有效地制衡权力。通过提供资源和透明工具，OpenAI 旨在使天平向后者倾斜，并强调技术本身并不决定结果——人类机构与企业的选择才是关键。

未来承诺

OpenAI 表示，随着政府 AI 使用的演进，它将继续支持监督机构，以确保保障措施、有意义的人类判断以及适当的监督能够跟上日益强大的系统。