思維的監管:為何 AI 檢測是一場針對推理能力的戰爭
現代作家面臨著一個奇特的悖論:為了證明自己是人類,他們必須停止像正在思考的人類那樣寫作。
近期圍繞著大型語言模型(LLMs)的討論,高度集中在「AI 特徵」(AI tells)上——例如過度使用破折號、三項列表,或是「delve」這個詞。最值得注意的是,「It's not X, it's Y」(否定平行結構)這種句式已成為 AI 生成文本的標誌。雖然批評者將其斥為懶惰的寫作,但現實情況更為複雜。這些模式並非隨機產生的痕跡;它們是人類推理方式的結構性回響,現在正被機器鏡像式地反映給我們。
LLMs 中的「推理」機制
要理解為何 LLMs 會傾向於使用某些特定短語,我們必須超越初始訓練數據。雖然網路提供了「生肉」,但最終的模型是由後訓練技術塑造的,例如來自人類回饋的強化學習(RLHF)和透過驗證獎勵的強化學習(RLVR)。
RLVR 在此處具有特別的影響力。在這種過程中,模型被訓練透過「大聲思考」來解決複雜問題(例如數學)。當模型透過特定的語言路徑得出正確答案時——例如使用「Wait」、「Consider」或「It's not X, it's Y」來縮小可能性範圍——該路徑就會得到強化。
因此,模型並非在學習人類意義上的推理;它是在複製推理的「模式」。它在模仿深思熟慮的節奏中擴展語言。當我們看到 LLM 使用否定平行結構時,我們看到的並非思考能力,而是一種經過優化、使其看起來像人類在解決問題的標記(token)數學分佈。
AI 檢測陷阱
這創造了一個危險的反饋迴路。AI 檢測器,例如 Pangram 或 Grammarly 的 AI 檢測功能,會尋找這些相同的結構模式。如果一位人類作家使用修辭手法來對比兩個觀點——這是批判性思考的基本工具——他們可能會被標記為機器人。
這導致了一種語言勒索。作家被迫進入「受 AI 檢測器壓力驅動的重寫」循環,他們使用一種機器(如 Grammarly)來清除散文中「類 AI」的模式,以證明自己沒有使用另一種機器來寫作。
"如果我們公開羞辱那些文本看起來像是機器寫作的人……這會發出一個信號,即你的推理語言必須受到監管,否則你也會被置於公眾審查之下。"
心智的工業化
這種趨勢延伸到了教育領域,其中基於 AI 的論文評估工具開始獎勵 RLVR 所優化的那些模式。在某些情況下,這些系統會因為句子的複雜度和詞彙範圍——這些都是 AI 推理的標誌——而給予更高的分數,而不論內容本身的學術標準如何。
這是古德哈特定律(Goodhart's Law)的一個經典案例:當一個衡量標準變成目標時,它就不再是一個好的衡量標準。 當推理的形式被賦予獎勵,而非推理的行為本身時,學生們就會為了成功而受到激勵去模仿機器,進一步模糊了人類思考與自動化合成之間的界線。
反對觀點與視角
並非所有人都認為避免 AI 慣用語是一種對人類表達的損失。有些人認為這些「特徵」可以作為有用的浮水印,而人類應該透過避免重複的措辭來「學會寫得更好」。其他人則指出,對於語言模式而非內容的關注,早在 LLMs 出現之前就已存在,特別是在學術寫作教學中,評估內容往往對評分者而言過於技術性或過於主觀。
然而,存在著更深層的風險。正如一位評論者所言,危險不僅在於特定短語的流失,而是在於批判性思考本身的轉移。如果我們因為某些論證工具看起來「太像 AI」而停止使用它們,我們我們就有可能失去嚴謹思考的習慣。
結論:超越思維的監控
如果使用 AI 來寫作是心智的工業化,那麼 AI 檢測就是對思維的監控。透過將「機器可以根據統計機率來判定寫作者的『罪名』」這一觀念常態化,我們創造了一種自我審查的文化。
我們必須抵制這種將人類誠實度交由機器判斷的衝動。寫作的目標不是為了避開一個機率分數,而是在於傳達意義。當我們將「避免 AI 特徵」置於「論證的清晰度」之上時,我們並非在保護人類表達——我們是在讓機器定義我們被允許思考的邊界。