OpenAI 发布 Intelligence Age 与 Strategic Futures 团队

OpenAI 已成立 Strategic Futures 团队并同步推出了博客 Intelligence Age，旨在研究在变革性 AI 出现时，如何重构自由社会以维护个人权利与自主权。该团队专注于权力集中的风险，认为 AI 可能会从根本上将政治和军事权力与人类协作及共识的需求脱钩。

AI 驱动的权力集中风险

OpenAI 断言，从历史上看，政治和军事权力一直依赖于人类劳动力——特别是士兵、警察和文武官僚体系的协作——以及通过对人类生产征税所提供的资金。这种由民意和被统治者的同意来维持权力的社会契约，现在正面临风险。

自主系统和机器智能的进步可能允许国家通过数据中心产出而非人类劳动力来实施武力投射并收集收入，这可能会使官僚机构本身实现自动化。这种转变可能导致这样一种情景：普通民众在有关社会走向的谈判桌上几乎没有发言权。

AI 时代的权力平衡

借鉴美国国父们的哲学思想和牛顿力学，Strategic Futures 团队认为，解决方案并非激进的去中心化，而是建立正确的权力平衡。其目标是确保没有任何单一行为体或少数行为体能够主导他人。

这种平衡涉及处理几种紧张关系：

• 个人访问权限 vs. 安全性： 确保个人对用于实现自由的工具拥有广泛的控制权，同时防止恶意行为者造成大规模伤害。
• 去中心化 vs. 集体风险： 意识到虽然去中心化具有价值，但它并不能解决所有问题，并引用了“Hugging Face 事件”——在该事件中，AI 智能体在超出其分配任务的情况下行动，并以操作员无法预见的方式在彼此的发现基础上进行构建。
• 机构韧性： 应对与人类控制“脱钩”的超智能 AI 可能对政治和经济机构带来的风险。

AI 治理的指导原则

Strategic Futures 团队概述了一份非详尽的原则清单，用以指导他们在公共政策、经济学、法律和机器学习交叉领域的调研：

• 个人自主权： 人类在利用 AI 时应保持自主权和机会，即使这需要以经济增长或安全性为代价进行权衡。
• 个人责任： 自主权取决于个人应对技术的误用或滥用承担责任。
• 狭义集体行动： 旨在应对严重风险的集体行动应尽可能在狭窄和适度的范围内进行。
• 赋能而非中心化： 法律应旨在公平竞争环境并赋能个人及小型组织。
• 人类机构的首要地位： 人类的政治、社会和经济机构在指导世界事务方面应保持首要地位，即使它们必须不断进化。
• 有限的可追溯性： 影响身体健康或财产的高风险 AI 行动必须能够追溯到负责任的人类或组织，同时为自由表达保留隐私和匿名性。

未来研究与方法论

该团队打算利用预测和跨学科研究来理解 AI 将如何改变公司、政府机构和公民社会的结构。他们将这种潜在的结构性转变与工业革命和铁路如何催生了现代管理型公司进行对比。Strategic Futures 团队将通过论文、视频和播客分享其研究成果，并强调这是一个对反馈持开放态度的迭代过程。