Sam Altman 在联合国安理会关于人工智能治理的发言
TL;DR
Sam Altman 向联合国安理会发表讲话，强调人工智能必须始终处于强有力的以人为本的监督之下，并通过协调一致的国际标准进行治理，以防止权力集中或失控。
为什么这次讲话很重要
这些言论表明 OpenAI 公开承诺推进民主化、以人为本的人工智能发展，并呼吁全球机构建立可执行的安全与监督框架。
核心观点：对强大系统的以人为本控制
- 人类自主性不可妥协 – Altman 强调，人工智能应增强而非取代人类的判断和价值观。
- 失控风险 – 他警告说，递归自我改进可能快于制度干预能力，因此任何灾难性风险都不可接受，无论其概率估计如何。
- 权力集中危险 – 允许单一实体——无论是公司、国家还是个人——掌控最先进模型，可能导致将单一世界观强加给全球人口。
"这些水平中的任何一个都远远不可接受。我们不应训练那些无法极强地证明我们能够保持在人类控制之下的模型。" – Sam Altman
OpenAI 提出的三大指导原则
- 以人为本的决策 – 对齐工作必须确保系统始终处于人类控制之下，并反映广泛共享的人类价值观。
- 惠及所有人 – 人工智能应加速科学发现、改善医疗、教育和经济生产力，而不是取代人类自主性。
- 个体赋能 – 该技术必须扩展个人自由和社区问题解决能力，OpenAI 将自身定位为赋能者，而非英雄。
展示的能力作为潜力证据
- 数学突破 – OpenAI 的模型在短短几年内从小学数学进展到解决千禧年大奖难题（纳维-斯托克斯方程），展示了能力增长的速度。
- 应用相关性 – 解决纳维-斯托克斯方程对飞机设计、天气预报和医学研究都有影响，凸显了人工智能如何推动现实世界的进步。
呼吁国际合作
- 标准制定 – Altman 建议建立互补的国家和国际标准，用于衡量人工智能能力、评估风险和验证防护措施。
- 事件报告 – 他倡导快速、准确的分类和报告协议，以便在灾难发生前分享失败信息。
- 安全通信渠道 – 需要建立政府、关键基础设施运营商和技术专家之间的专用联络通道，以交换漏洞信息。
- 中立标准 – 任何框架都应避免锁定现有参与者或偏袒特定商业模式，支持开源和闭源开发者。
"如果人工智能要实现民主化，最重要的决定不能仅由旧金山实验室单独做出。它们必须通过民主进程形成，并由对所服务人民负责的政府来塑造。" – Sam Altman
Altman 描述的十字路口
- 负面路径 – 权力集中、决策不透明，以及技术被强加于人。
- 正面路径 – 民主监督、改善生活的科学进步、广泛参与和增强的个体自主性。
Altman 结尾指出，后一种愿景是 OpenAI 力图帮助构建的未来。
对政策制定者和人工智能界的启示
- 紧迫性 – 人工智能时间线的急剧压缩要求立即采取政策行动，而非被动应对。
- 协作 – OpenAI 表明愿意与政府和专家合作，欢迎更好的想法并共同解决问题。
- 责任基准 – 这次演讲为其他人工智能实验室设定了公开基准，要求其阐明安全承诺，并采用透明、以人为本的发展实践。
本文综合了 OpenAI 发布的 Sam Altman 于 2026 年 9 月 23 日向联合国安理会发表的完整讲话内容。