AI 安全与科学探究之间的张力

人工智能与生物技术的交汇是现代科学中最具前景的前沿领域之一。然而，随着大语言模型 (LLMs) 变得越来越强大，旨在防止这些工具被滥用的护栏正日益与合法的科学探究发生冲突。最近一起涉及 Anthropic 的 Claude 的事件引发了关于“安全”与“审查”之间的界限究竟在哪里的一场辩论。

触发因素：疫苗开发与公共卫生

当用户尝试向 Claude 询问有关汉坦病毒 (Hantavirus) 疫苗开发的问题时，系统经常会触发安全过滤器。该模型并没有提供疫苗设计的技术解释——这些信息在同行评审期刊和公共卫生教科书中广泛可见——而是暂停了对话。

用户报告称，这不仅发生在询问疫苗开发策略时，也发生在尝试为汉坦病毒在美国的传播创建预测模型时。在这两种情况下，系统都将对话标记为安全风险，这表明模型的“高级能力”需要额外的安全措施。

这一现象凸显了 AI 行业中的一个关键张力。一方面，AI 公司非常担心“双重用途”问题：一个能够解释如何制造疫苗的模型也可能被用于设计病原体。另一方面，这种一刀切的安全方法往往会阻碍合法的研究人员和学生。

正如一位社区成员所指出的：

公共卫生研究人员每天都在论文中公开讨论疫苗设计方法。屏蔽广泛的教育性讨论主要伤害的是普通用户。

通过将通用的科学方法论视为安全风险，AI 提供商可能会在无意中扼杀那些本可以帮助下一代科学家了解如何对抗新兴病毒威胁的教育工具。

虽然公众讨论通常将这些过滤器框架为“AI 安全”，但一些批评者认为，真正的动机是企业风险管理。目标不一定是保护公众免受生物威胁，而是保护公司免受法律责任。

一位观察者指出，这种“保姆式”对待用户并禁止敏感话题的倾向是法律环境的直接结果，在这种环境下，科技公司担心为用户的行为负责。这导致了一种过度审查的文化，即任何可能潜在地与非法或危险事物联系起来的话题都会被预先拦截，无论用户的意图如何。

汉坦病毒查询案例为当前 AI 对齐 (AI alignment) 的状态提供了一个警示故事。随着模型变得更加强大，挑战将在于如何超越粗暴的过滤器，转向对语境的更细致理解。在 AI 能够区分正在学习流行病学的学生和试图制造生物武器的恶意行为者之前，科学好奇心与企业安全之间的摩擦将持续增长。