AI与数学推理:工作记忆假设
工作记忆假设
AI在解决复杂数学问题方面的熟练程度通常归功于通用智能的提高或数学直觉的发展。然而,一个引人注目的替代解释是,AI拥有比人类大脑大得多的有效工作记忆。通过利用巨大的外部符号工作空间——具体来说是上下文窗口(context window)——AI消除了人类推理中最显著的生物约束之一:同时持有并操作多个陌生元素的有限容量。
工作记忆作为认知瓶颈
工作记忆是用于在短时间内持有和操作信息的心理系统。在数学中,这涉及跟踪变量、运算、假设和中间引理。人类的工作记忆受到严重限制;例如,在脑中计算两个三位数的乘积很困难,并不是因为运算本身很简单,而是因为难以保留中间结果。
研究表明,工作记忆是超越通用IQ的数学表现的独特预测因子。Alloway和Passolunghi (2011) 以及 Alloway和Alloway (2010) 的研究发现,工作记忆指标对儿童的数学技能和学业成就具有独特的贡献,有时甚至比IQ本身更具预测性。这表明,在智力相似的个体中,操作工作记忆中信息的能力往往决定了数学上的成功。
AI中增强的符号工作记忆
虽然人类使用草稿纸来扩展工作记忆,但AI模型使用其上下文窗口作为巨大的外部笔记本。这种“增强的符号工作记忆”允许模型同时保持整个问题陈述、数百个中间方程和多个被放弃的方法处于活跃状态。
推理的外部化
与可以维持私人内部心理状态的人类不同,标准语言模型主要通过它们已经生成的token序列来维持状态。文本不仅仅是思维过程的报告;它本身就是推理的机制。这种“大声思考”在数学中成为了一种战略优势,因为:
- 显式约束: AI可以在每个阶段重新陈述活跃的约束条件(例如,“n是奇数,p是质数”),从而防止经常困扰人类数学家的“账目记录错误”。
- 组合稳定性: 数学推理具有高度的组合性(A → B → C → D)。大型工作空间允许AI构建更长的演绎链,而不会丢失全局结构。
- 可验证性: 数学符号旨在减少歧义,这使得它们非常适合通过大型文本工作空间进行操作的智能,在这种空间中,步骤可以被记录并验证。
领域特定性:数学 vs. 非正式推理
巨大的上下文窗口的优势并非普适的;它在数学领域特别有效,因为该领域是人为构建的,具有显式性和可验证性。
相比之下,非正式推理(例如,社会或政治分析)依赖于不稳定的概念和隐藏的原因。更大的上下文窗口允许AI检查更多数据,但它无法检索从未被观察到的事实,也无法解决诸如“公平”或“负责任”等术语固有的歧义。在这些领域,核心挑战是在不确定性下识别正确的因果模型,而不是管理一个符号账本。
Von Neumann 与 Einstein 的区别
AI与人类数学天才之间的区别可以被框架化为 John von Neumann 与 Albert Einstein 之间的能力区别。正如物理学家 Eugene Wigner 所指出的,von Neumann 拥有无与伦比的速度和处理大量信息及复杂论证的能力。然而,Einstein 则以其更深层、更具原创性的重新概念化问题的能力为特征。
目前的AI似乎是 von Neumann 能力的一种机器增强版——极其快速、广泛,并且能够保留海量的显式信息。AI的下一个阈值将是实现“爱因斯坦式的深度”:即识别问题框架是否错误并发明一种全新的理解方式的能力。
社区观点的综合
技术从业者的讨论表明,“超越记忆”效应不仅限于数学,还延伸到了软件工程和通用问题解决中:
知识重组: 有些人认为,许多被视为高智能的表现实际上是同时拥有他人不具备的零散知识片段(A + B)的能力。
暴力破解与持久性: AI缺乏人类的情感和身体疲劳,这允许它在研究方向上进行“暴力破解”,而不会因负面结果而气馁。
负面痕迹的价值: 与主要发表正面结果的人类数学家不同,AI可以轻松地存储和重用“负面痕迹”(失败的尝试),这些可以被利用来避免重复错误。
抽象的成本: 一些观察者指出,AI由于缺乏记忆约束,导致它生成的代码比人类更冗长,抽象程度更低,因为它不需要为了适应人类有限的工作记忆而简化问题。
"AI并不受限于相同的架构。它可以将推理转化为文本,并使用该文本作为巨大的外部认知工作空间。"
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch