验证并非知识：人类理解在人工智能驱动的科学中的作用

人工智能在科学研究中的快速整合，在两种相互竞争的进步愿景之间制造了日益增长的张力：一种优先考虑可验证解决方案的归档，另一种则坚持将人类理解作为科学进步的核心。虽然人工智能可以产生通过形式化验证的证明和实验结果，但人类洞察力的缺失威胁到了使科学能够作为一种累积性、自我修正的事业运作的社会和认识论基础。

验证的局限性

当前推动“人工智能科学”的趋势往往基于这样一个前提：科学价值仅在于正确性。支持者认为，如果人工智能能够为某个猜想或医疗方案提供正确性的形式化证明，那么缺乏人类理解就是一个次要问题。然而，这种观点将理解视为一种可选的心理状态，而非功能性要求。当科学成果与人类理解脱节时，它们就变成了无法被审视、质疑或整合到更广泛知识体系中的不透明“黑箱”。如果一项主张失败，或者被发现是基于试验中的某种被利用的弱点，那么缺乏可追责的人类作者将使科学界无法进行修正或寻求补救。

无价值理想及其后果

优先考虑产出而非洞察力的倾向植根于“无价值理想”（value-free ideal），这是一种在二战后时期获得显著地位的哲学。该框架认为，科学应仅根据认识论标准进行评判，剥离伦理或社会价值。通过试图用对自动化程序的信任取代对个体科学家的信任，这一理想助长了一种信念，即我们可以达到不再需要人类判断的状态。批评者认为这是一种误解；科学本质上是一个社会过程，其进步依赖于变革性的质询。同行评审和批判并非仅仅是额外负担；它们是社区协商意义、建立共同标准并确保结果服务于人类利益的机制。

作为社会行为的问责制

知识生产从根本上是一种社会行为，要求代理人对断言承担责任。在人类主导的科学中，作者对其主张负责，使他人能够依赖其工作并在必要时提出质疑。缺乏持久性、身份认同和社区利益的人工智能代理难以履行这一角色。正如一位观察家所指出的，“形式上的作者身份得以保留，而实质性的作者身份却在减弱”，这创造了一种局面：成果以工业规模发布，却缺乏相应的专家判断能力。

科学探究的未来

如果科学界继续偏向自动化产出，它就有可能失去维持科学进步的那些核心能力。随着研究人员和数学家将更多工作委托给人工智能，他们可能会失去判断所获答案质量的能力。

• 摩擦的作用： 一些观察家认为，人类批判的“摩擦”是一种特性，而非缺陷。正如工程师抵制臃肿的产品功能一样，科学家必须保持质疑研究路径是否真正有意义的能力。
• 综合的需求： 一种潜在的前进路径涉及两部分方法：利用人工智能生成结果，同时将解释、综合和问题形成的工作留给人类研究人员。这确保了科学探究的“灯塔”始终由人类的愿望引导，而非仅仅由数据生产驱动。

归根结底，验证并不等同于知识。虽然人工智能可以作为发现的强大工具，但将原始数据转化为知识，需要一个由人类组成的社区，他们准备好为自己的断言负责，参与批判性对话，并维护定义科学理解的标准。