智慧是集体的，而非人工的：迈克尔·I·乔丹教授对 AI 与经济学的观点
智慧是集体的，而非人工的：迈克尔·I·乔丹教授对 AI 与经济学的观点
AGI 的谬误与对智慧的拟人化
人工通用智能（AGI）在很大程度上是一个公关术语，它对研究、商业模式以及年轻建设者的抱负产生了扭曲效应。当前的叙事——我们正在构建一种无形的超级智能，它可能拯救或毁灭人类——是一种科幻小说，它通过暗示在他们的一生中已经没有什么可建的，来打击年轻工程师的士气。
智慧不应被拟人化。技术系统的目标并不是以人类意义上的“理解”，而是提供可预测性和可控性。例如，在工业供应链建模中，系统可以对运输延误做出极佳的预测，而无需“理解”物流；关键在于它降低了不确定性，使工程和规划更加有效。
AI 作为集体经济系统
智慧不是个人属性，而是集体属性。人类智慧源自意见、思想和文化的聚合，这些为行动提供了必要的背景。因此，AI 应被视为一种集体经济系统，而不是一个独立的统计盒子。
经济学与博弈论的作用
要超越简单的模式匹配，AI 必须融入经济学思维，特别是博弈论和机制设计：
- 博弈论： 用于预测基于战略交互的结果的数学框架（类似于 $F=ma$ 预测物理运动）。
- 机制设计： 博弈论的“逆向”。它不是预测给定游戏的结果，而是问：“我必须设计怎样的游戏才能实现特定的期望结果（例如公平、财富分配或市场效率）？”
- 合同理论： 机制设计的一个子集，处理信息不对称的情形，即一方比另一方了解更多，需要特定激励来确保真实交互。
基础模型的技术局限性
虽然大语言模型（LLM）展示了令人印象深刻的规模效应，但它们常常与现实脱节，因为缺乏不确定性和激励的框架。
AlphaFold 案例研究与预测驱动推断
AlphaFold 是一种强大的蛋白质预测工具，但在用于假设检验时可能产生误导。在关于量子涨落和磷酸化的研究中发现，AlphaFold 的预测会产生极窄的置信区间，而这些区间离真实值相去甚远，因为训练集缺乏足够的此类涨落实例。
为了解决此问题，预测驱动推断（PPI） 被提出。PPI 允许研究者将少量的真实数据与大量有偏的模型预测相结合，调整误差条使其覆盖真实值，从而在使用有偏基础模型时仍能提供科学可信的答案。
LLM 置信度的问题
LLM 通常无法量化自身的置信度，因为它们仅被训练来预测下一个词。当 LLM 表达置信度时，通常是在模仿训练数据中人类的断言，而不是在不确定性下进行认知推理。
设计可持续的数据市场
数据不仅是训练模型的资源，更是一种具有价值和隐私影响的商品。三层数据市场模型展示了用户、平台和数据买家之间的张力：
- 用户： 为获取服务向平台提供数据。
- 平台： 使用数据改进服务，并将其出售给第三方以维持运营。
- 数据买家： 购买数据用于市场调研和行为研究。
在优化的系统中，平台将提供可调节的差分隐私水平。重视隐私的用户会选择拥有更高隐私预算的平台，而数据买家则会为噪声更大的数据支付更少费用。目标是找到一个数学均衡，使社会福利最大化，而不是仅仅优化单一目标函数。
AI 时代的新文科三角形
为了构建对社会负责的技术，下一代研究者应摆脱单纯关注计算优化的思路，转而采用多学科的“思维三角形”：
- 计算思维： 模块化、抽象化和算法效率。
- 推断思维（统计学）： 管理不确定性、控制错误率以及设计最优实验。
- 经济思维： 理解激励、战略交互以及设计机制以协调人类和机器代理。
通过结合这三者，AI 可以从“肩上的秘书”转变为提升人类决策、缓解不确定性（如市场对资源的作用）并支持人类创造力与民主的系统。
摘要： 迈克尔·I·乔丹教授认为，智慧是一种集体经济系统，而非无形的超级智能。他主张从 AI 炒作转向结合计算机科学、统计学和经济学的多学科方法。
标题： 智慧是集体的，而非人工的：迈克尔·I·乔丹教授对 AI 与经济学的观点