DeepMind Kaggle 競賽爭議：AI 生成內容奪得大獎

AI 生成內容贏得 25,000 美元 DeepMind Kaggle 獎金

一篇被批評者稱為「AI 渣」的提交作品在 DeepMind 贊助、以測量 AGI 為目標的 Kaggle 競賽中贏得了 25,000 美元的大獎。爭議的核心在於，獲勝作品被指含有明顯的幻覺與 AI 生成的填充內容，卻仍被選為冠軍，顯示評估流程可能失靈。

「LLM 作為評審」的失敗

社群提出的主要技術關切是依賴大型語言模型（LLM）來評判其他 LLM 生成的提交。這會形成一個回饋迴路，使 AI 生成的內容被優化以迎合另一個 AI 的評分指標，而非人類的實用性或事實正確性。

主要技術批評

• 指標爬坡（Metric Hill‑Climbing）： 批評者認為，當競賽使用客觀指標時，AI 表現良好；但若依賴「LLM 作為評審」，結果往往會退步，因為 AI 評審可能被特定措辭或模仿高品質輸出卻缺乏實質內容的「渣」所欺騙。
• 提示注入風險（Prompt Injection Risks）： 有參賽者指出，在 AI 驅動的黑客松中，作品贏得勝利的原因往往不是技術實力，而是利用提示注入說服 AI 評審自己是贏家。
• 模式辨識 vs. 理解： 獲勝提交據稱使用了 Claude（Anthropic 的 LLM）常見的語句，例如「the smoking gun」，暗示內容是由 AI 生成且缺乏嚴格的人類審核。

社群對 AI「渣」的看法

Hacker News 的技術觀察者表達了對 AI 生成內容氾濫、侵蝕研究與競賽平台品質的擔憂。

"可悲的是，主要的機器學習/AI/NLP 會議正被 AI 渣論文淹沒。這將在未來對研究品質產生更大的衝擊。"

其他貢獻者指出，這是一個系統性問題，已延伸至 Kaggle 之外的職業招聘，認為「充斥渣的履歷如今似乎更受青睞」，因為它們同樣會被 AI 篩選。

反駁與背景說明

並非所有觀察者都將此結果視為系統失靈。有些人認為機器學習（ML）的本質一直是自動化流程與「黑盒」的運作。

• 暴力破解傳統（Brute Force Tradition）： 有人認為使用 LLM 生成程式碼或優化提交，只是超參數調整與自動特徵選擇的現代版，這在 Kaggle 競賽中已屬常態多年。
• 價值 vs. 完美： 有觀點認為，只要獲勝作品即使有「不一致或錯誤」仍能提供整體價值，就應被視為有效的勝者。

對未來競賽的影響

此事件為 AI 評估設計提供了元教訓。為避免「AI 渣」贏得勝利，主辦方可能需要拋棄純粹依賴 LLM 的評審機制，重新納入人類專家審查或更嚴格、客觀的驗證步驟，以確保最終贏得的成果是基於現實而非僅僅符合模型偏好的優化結果。