永恒的互补：人工智能与进步的未来

本文探讨了前沿智能（生成卓越洞见的能力）与制度智能（通过官僚体系、资本和劳动力执行这些想法的能力）之间的关系。核心论点是，进步并非仅由天才驱动，而是由构想与实现这些构想所需的物理和组织支持系统之间的协同作用所推动。

进步的日益高昂成本

科学和技术进步越来越需要更大的支持体系，导致单个研究单位的生产率下降。作者指出，维持摩尔定律如今所需的科研人员数量比20世纪70年代初多出18倍以上。

这一成本上升的关键指标包括：

• 研究生产力： 从1930年代起，全社会有效科研投入增长了23倍，而测得的研究生产力却下降了41倍。
• 劳动力结构变化： 技术人员 workforce 的增长速度是科学家 workforce 的两倍。
• 基础设施成本： 科学领域专用设备的使用量在过去四十年中翻了一番，而现代芯片制造厂的成本是30年前的五倍。

智能与制度互补

从经济角度看，前沿智能与执行能力是“互补品”，意味着其中一方的增加会提升另一方的价值。

• 物理互补品： 包括粒子加速器、能源来源以及构建技术设计所需的机械装置。
• 制度智能： 指的是“不为人知的执行智能”，涵盖法律、官僚体系、资金机制和供应链。

尽管天才设计了纪念碑，但制度智能才铺下了基石。作者认为，即使是一个由十亿个爱因斯坦组成的社会，仍需要绝大多数成员从事会计和资源开采工作，以维持支持前沿创新的基础设施。

人工智能在执行与构想中的作用

目前，人工智能正在通过自动化编码、文献检索和原型设计，降低执行的稀缺性。这使得瓶颈从执行转向“品味”——即判断哪些问题值得提出、哪些方向值得探索的能力。

然而，当人工智能开始生成自己的卓越洞见（如数学领域所见）时，可能会产生新的瓶颈。通过爆炸式增加可行的假设和概念，人工智能可能使世界比以往任何时候都更加“执行匮乏”，因为支持性基础设施难以消化如此庞大的新想法数量。

文明的两种潜在路径

作者提出了超级智能与物理世界互动的两种可能方向：

1. 深度文明

在这种情景下，智能通过从原理出发的推理和从现有数据中提取新洞见来推进知识，最大限度减少对新物理证据的需求。

• 机制： 超级智能通过高度逼真的模拟最大化效率，确保只有最关键的物理实验被实施。
• 结果： 进步由更深层次的思考驱动，而非物理扩张。文明的物理足迹保持较小，而智慧却持续增长。

2. 宽度文明

在这种情景下，对新证据的需求超过了智能的效率。进步需要在现实世界中进行越来越复杂和大规模的实验。

• 机制： 智能主要被用于“制度智能”——协调庞大的技术和官僚机器（例如建造戴森球）。
• 结果： 物理扩张成为知识的主要引擎。由于这一过程受到宇宙速度极限（光速）和物理建造所需时间的制约，进步速度可能随时间反而减缓。

人类好奇心的作用

尽管人工智能在洞察力和协调能力方面可能超越人类，作者仍认为人类好奇心至关重要，原因有三：

1. 启蒙的责任： 理解世界的需求是人类的根本驱动力，无论是否存在更优越的智能，这种驱动力都持续存在。
2. 比较优势： 人类在前沿智能（创造力）方面可能相对优于制度智能（常规协调），从而在创造性过程中形成专业化。
3. 创造性多样性： 人类的独特性提供了多样化的视角，即使机器能够模拟大多数人类思维，这些视角仍具有价值。