GPT-5 數學發現

GPT-5 加速解決長期存在的優化問題

OpenAI 的 GPT-5 使 UCLA 的 Ernest Ryu 教授能夠解決關於 Nesterov 加速梯度 (NAG) 方法穩定性的 40 年未解問題。透過充當創意協作者，GPT-5 加速了潛在證明的探索，將原本可能需要數週的手動工作縮減為約三天內的十二小時合作。

Nesterov 加速梯度 (NAG) 問題

核心的數學挑戰在於理解為何 Yurii Nesterov 在 1983 年提出的 Nesterov 加速梯度 (NAG) 方法在提供顯著的算法收斂速度提升時仍能保持穩定。

NAG 的技術背景

  • Function：NAG 是一種優化方法，它使用「前瞻」預測來計算未來點的梯度，而不是當前狀態。
  • Benefit：此方法使算法能夠更快收斂，並在接近函數的最小值時更有效地管理振盪。
  • The Mystery：數十年來，研究人員觀察到 NAG 帶來的額外動量並未引入不穩定性，但他們缺乏正式的數學證明來解釋這種行為發生的原因。

GPT-5 作為數學協作者

Ryu 教授並未將 GPT-5 用作自主求解器，而是將其用作探索工具，以從廣泛的數學文獻（包括相關子領域）中提出想法和技巧。

協作工作流程

  • Idea Generation：GPT-5 提出了非常規的方法並重新結構化方程式，其中有些是「出乎意料」的。
  • Rapid Iteration：Ryu 使用該模型快速提出並捨棄一個想法的變體，這對人類來說通常是一個認知上耗盡的過程。
  • Verification and Filtering：Ryu 擔任主要驗證者，辨識出有前景的方向並捨棄錯誤的推理。他指出 GPT-5 常產出看似合理但經檢查後發現錯誤的論證。
  • Error Mitigation：為了減少累積錯誤，Ryu 在請模型檢查工作時會開啟新的聊天會話，而不是繼續單一的長時間對話。

轉折點

解決方案在 GPT-5 提出一種重新結構化 NAG 方法控制方程式的具體方式時浮現。儘管該建議原樣寫下來並不正確，Ryu 在其中辨識出一個有意義的結構特徵。他嚴格地自行發展了這個特徵，並使用有針對性的問題來測試證明的可行性，這成為最終證明的骨幹。

對數學研究的影響

此案例研究表明，AI 與領域專家的合作可以透過擴充研究者可用的理論工具，顯著加速發現。

人機協同效應

  • Expertise Requirement：此過程需要 Ryu 在優化理論方面的深厚專業知識，以從模型的錯誤中辨識出有價值的見解。
  • Psychological Impact：GPT-5 提供的快速想法流動防止了導致研究人員放棄困難問題的典型挫折感，使問題始終感覺「觸手可及」。
  • Academic Integration：Ryu 產出的預印論文（可於 arxiv.org/abs/2510.23513 取得）遵循傳統學術風格，作為古典數學家的案例研究，儘管 GPT-5 在標題和摘要中被致謝。

"數學研究的運作方式是你有想法，而且無論你หรือ同事提出一個粗糙的想法時，你會有一種感覺知道它是否會成功。這是人工智慧與人類合作特別有效的地方。"

結論

GPT-5 沒有發明新的數學原理，但擅長運用現有工具並從大規模閱讀中連結零散的想法。此發現的成功依賴於人類專家驗證推理並引導探索過程的能力。

Sources