思维的监管:为什么 AI 检测是一场针对推理的战争
现代作家面临着一种奇怪的新悖论:为了证明自己是人类,他们必须停止像正在思考的人类那样写作。
最近围绕大语言模型 (LLMs) 的讨论主要集中在“AI 特征”上——即一些语言上的小习惯,比如过度使用破折号、三项列表,或者“delve”这个词。最值得注意的是,“It's not X, it's Y”(否定平行结构)这种句式已成为 AI 生成文本的标志。虽然批评者将其斥为写作懒惰,但现实更为复杂。这些模式并非随机产生的痕迹;它们是人类推理方式的结构性回响,现在正被机器镜像式地反射回我们身上。
LLMs 中的“推理”机制
要理解为什么 LLMs 会倾向于某些短语,我们必须超越初始训练数据。虽然互联网提供了“原材料”,但最终的模型是由后训练技术塑造的,例如来自人类反馈的强化学习 (RLHF) 和通过验证奖励的强化学习 (RLVR)。
RLVR 在这里具有特别的影响力。在这个过程中,模型被训练通过“大声思考”来解决复杂问题(如数学)。当模型通过特定的语言路径得出正确答案时——例如使用“Wait”、“Consider”或“It's not X, it's Y”来缩小可能性范围——这条路径就会得到强化。
因此,模型并不是在人类意义上学习推理;它是在复制推理的模式。它在模仿深思熟虑的爆发式语言表达。当我们看到 LLM 使用否定平行结构时,我们看到的不是思考的能力,而是经过优化以看起来像人类在解决问题的标记 (tokens) 的数学分布。
AI 检测陷阱
这创造了一个危险的反馈循环。AI 检测器,如 Pangram 或 Grammarly 的 AI 检测功能,也在寻找这些相同的结构模式。如果人类作家使用修辞手段来对比两个观点——这是批判性思维的基本工具——他们可能会被标记为机器人。
这导致了一种语言上的勒索。作家们被迫陷入“受 AI 检测器压力而进行的重写”循环中,他们使用一台机器(如 Grammarly)来清除文稿中“类 AI”的模式,以证明自己没有使用另一台机器来写作。
"如果我们将那些文本看起来像是机器写的的人公开羞辱……这会发出一个信号,即你的推理语言必须受到监管,否则你也会面临公众的审视。"
思维的工业化
这一趋势延伸到了教育领域,其中基于 AI 的论文评估工具开始奖励 RLVR 优化的那些模式。在某些情况下,这些系统会因为句子的复杂性和词汇范围——AI 推理的标志——而给出更高的分数,而不管内容的实际学术标准如何。
这是一个典型的古德哈特定律 (Goodhart's Law) 案例:当一个指标变成目标时,它就不再是一个好的指标了。 当推理的形式优于推理的行为本身受到奖励时,学生们就会为了成功而激励自己去模仿机器,从而进一步模糊了人类思维与自动化合成之间的界限。
对立观点与视角
并非所有人都认为避免 AI 习语是一种对人类表达的损失。有人认为这些“特征”可以作为有用的水印,且人类应该通过避免重复性短语来“学会写得更好”。其他人则指出,对语言模式而非内容的关注早在 LLMs 出现之前就已存在,特别是在学术写作教学中,评估内容往往对评分者来说过于专业或过于私人化。
然而,存在着更深层的风险。正如一位评论者所言,危险不仅在于特定短语的丢失,而在于批判性思维本身的卸载。如果我们因为论证工具看起来“太像 AI”而停止使用它们,我们就有可能失去严谨思考的习惯。
结论:超越思维的监控
如果使用 AI 写作是思维的工业化,那么 AI 检测就是思维的监控。通过将“机器可以根据统计概率来判定作家的“罪行””这一想法常态化,我们创造了一种自我审查的文化。
我们必须抵制那种根据机器的判断来判定人类诚信的冲动。写作的目标不是为了规避一个概率分数,而是在于传达意义。当我们优先考虑规避“AI 特征”而非论证的清晰度时,我们并不是在保护人类表达——我们是在让机器定义我们被允许思考的边界。