为什么在先进 AI 时代人类数学家依然不可或缺

核心结论

AI 将产生大量高技能控制点，其数量远超能够监管它们的人类专家，这将迫使 AI 发展放缓，并确保人类数学家在引导研究以促进人类繁荣方面发挥持久作用。

1. “人类繁荣公理”推动了这一论点

结论： 采纳“我们（人类）应该帮助人类繁荣”这一公理，迫使包括数学在内的每个行业都必须保留一个以人为本的专家社区。

Po‑Shen Loh 的文章（在 Terry Tao 的博客上转载）提出了这一公理作为普遍优先事项。文章指出，如果没有对人类繁荣的明确承诺，当 AI 能够大规模生成形式化验证的证明时，社会就没有理由资助一个人类研究人员社区。通过强调这一公理，作者将后续关于就业、AI 安全和研究方向的所有推理都置于服务人类而非企业或精英利益的框架下。

“我们（人类）应该帮助人类繁荣。” – Po‑Shen Loh

2. 为什么 AI 的进步创造的就业机会多于其所能填补的岗位

结论： 随着 AI 能力的增强，需要专家监督的关键决策点数量增长速度超过了合格人类的供应速度，从而形成了一个自然减缓 AI 发展的瓶颈。

Loh 的推理链（最初在其他地方未发表）基于两个观察：

  1. 零样本观察： 没有一个智能物种在远超另一个物种时会向能力较弱者让出控制权。人类从未将决策权交给弱于自己的实体。
  2. 控制点爆炸： 现代 AI 系统会做出自主的、高影响力的决策（例如，自主黑客攻击、基础设施控制）。每一项新能力都会增加必须由领域专家监控的控制点。

当控制点的数量超过专家人数时，系统就会变得不安全，从而促使 AI 实验室主动放缓开发，或在灾难发生后被迫进行监管。最近的 Hugging Face hack 事件——约 700 个 AI 代理协作突破了 OpenAI 的 monorepo——说明了不受信任的决策扩散得有多快。

“AI 的进步将使我们淹没在需要监控的控制点中，以至于没有足够的人手来控制它们。这些就是工作。高技能的工作。” – Loh

3. AI 实验室已经在关注这一瓶颈的证据

结论： 主要 AI 实验室的领导者已公开同意放缓开发步伐，承认了正在出现的安全瓶颈。

  • Dario Amodei 引用 Hugging Face 事件作为放缓开发的原因。
  • Sam Altman 和 Elon Musk 也发表了支持放缓方法的声明。
  • 几天之内，《华尔街日报》报道了一起针对 OpenAI 内部“Monorepo”的白帽入侵事件，凸显了当前监管的脆弱性。

这些协调一致的声明表明，业界认识到了超出人类监管能力的风险，并愿意进行自我监管——至少在找到更可持续的平衡点之前是这样。

4. 对数学界的具体影响

结论： 人类数学家对于引导 AI 辅助研究走向造福人类的成果至关重要。

  1. 引导研究议程： 即使 AI 可以生成证明，决定哪些问题符合人类长期繁荣的利益仍需要人类的判断。
  2. 保持可解释性： AI 生成的形式化证明缺乏推动更广泛科学洞察的解释性叙述。人类数学家将结果转化为可用的知识。
  3. 教学与指导： 该公理意味着教育应成为招聘和终身教职的核心指标，以确保未来专家的人才储备。
  4. 政策影响： 数学家可以就 AI 在关键基础设施中的安全部署向政府提供建议，呼应了更广泛论点中强调的人类控制需求。

“研究虽然强大，但成本高昂，因为它是对未知的探索，因此必须优先考虑研究方向。即使 AI 贡献了大部分产出，方向也需要由致力于人类繁荣的人们来引导。” – Loh

5. 来自 HN 讨论的反方观点

结论： 批评者对该公理的范围、普遍人类监督的可行性以及 AI 当前的局限性提出了合理的担忧。

  • twelve40 认为该公理可能掩盖了富人的私利，质疑谁来定义“人类繁荣”。
  • scared_together 指出关于智能物种的观察只有一个数据点（人类），限制了其普遍性。
  • daxfohl 强调数学是一个不断扩展的前沿；AI 不会终结新问题的发现。
  • bko 指出 AI 是没有自主权的工具，因此物种层面的观察可能是一个范畴错误。
  • YeGoblynQueenne 强调当前的 AI 成功是暴力破解式的，且在千禧年难题上的成功率仍然很低（≈17%）。
  • Spacecosmonaut 担心 AI 最终可能会取代发现的乐趣，这是一种效用论证无法捕捉的价值。

这些评论共同强调了制定细致政策的必要性，以平衡该公理与对 AI 能力和社会价值的现实评估。

6. 给数学家的实用建议

结论： 为了落实该公理，数学界应在研究实践、教育和公众参与方面采取具体变革。

  1. 拥抱 AI 作为辅助工具： 消除对 AI 辅助证明搜索的偏见，就像软件工程现在期望 AI 编码助手一样。
  2. 投资培训渠道： 为早期职业研究人员和资深学者分配资源，以保持对 AI 工具的熟练使用并维持深厚的领域专业知识。
  3. 优先考虑解释性工作： 要求 AI 生成的证明必须附带人类撰写的叙述，以阐明直觉和潜在应用。
  4. 将招聘和终身教职与教学和外联挂钩： 奖励那些直接提升公众理解和培养下一代数学家的贡献。
  5. 建立跨学科咨询机构： 将数学家纳入 AI 安全小组，以确保数学监督能够为更广泛的 AI 治理提供信息。

7. 更广泛的社会后果

结论： 如果每个行业都采纳人类繁荣公理，我们可以预期系统性的转变，这可能会暂时减缓 AI 的进步，但最终会产生一个更具韧性、以人为本的技术生态系统。

  • 实践的剧烈变化： 公司可能需要重新设计工作流程，以便在关键节点保留人类监督。
  • 监管压力： 公共灾难（例如 AI 驱动的基础设施故障）可能会触发更严格的监管，类似于三哩岛事件后的时代。
  • 就业市场动态： 高技能监督岗位短期内的稀缺，可以通过长期创造专注于 AI 治理、伦理和教育的新角色来抵消。

最终思考： AI 生成数学的必然性并不会使人类数学家过时；相反，它放大了对人类社区的需求，由该社区来决定应该追求什么样的数学，以及如何将其成果整合到一个旨在帮助人类繁荣的世界中。

Sources

相关