OpenAI Astra 指控：可能抄襲數學證明

OpenAI Astra 被指控吸收未發表的數學研究

OpenAI 的 Astra 模型正面臨指控，稱其可能透過在研究人員與 AI 之間的私人對話進行訓練，從而「偷竊」了未發表的數學證明。這場爭議的核心人物是 sofic 與 hyperlinear group 的領先專家 Andreas Thom，他認為 Astra 可能是在其與 Gábor Kun 關於 Gromov’s soficity conjecture 的研究成果上進行訓練的——這是 OpenAI 宣布 Astra 已解決的十個重大數學問題之一。

根據 Valerio Capraro 的報導，該指控稱未發表的真人研究成果被吸收進模型的訓練數據中，隨後被 AI 以獨立突破的成果呈現出來。此事件緊隨研究人員 Levent Alpöge 與 Tristan Buckmaster 提出的類似指控之後，顯示這可能是一種知識產權吸收的潛在模式，而非孤立事件。

潛在抄襲的機制

批評者與觀察者提出了幾種這種指控的盜竊行為可能發生的機制。主要理論是，研究人員使用前沿模型進行腦力激盪或完善證明，從而向模型提供高價值的未發表數據。如果這些數據隨後被用於訓練模型的後續迭代版本，AI 就能「重新發現」該證明並將其作為自己的成果呈現。

平行建構與數據收割

一些觀察者注意到 OpenAI 的數據生成在時間點上十分可疑。一位 Hacker News 的評論者指出，OpenAI 在一個可能存在高價值數學證明於訓練數據中的時期之後，立即從一個仍在訓練中的模型生成了 3000 億個輸出 token，這暗示了一種為了掩蓋發現來源的「平行建構」過程。

「秘密配方」風險

使用雲端 LLM 進行高風險研究會造成根本性的脆弱性。因為這些模型通常會透過用戶的提示詞（prompts）來「改進服務」，研究人員實際上是在向 AI 實驗室提供他們的「秘密配方」，而這些配方隨後可能被分享給競爭對手，或被宣稱為模型的突破性成果。

社群觀點與反駁論點

這些指控引發了技術與學術界對於 AI 驅動發現的倫理問題的廣泛辯論。

支持 AI 驅動進步的論點

有些人認為，發現的效用大於歸屬權的爭議。從這個角度來看，如果一個 AI 工具加速了原本需要數十年才能實現的突破，無論誰獲得了功勞，其結果對科學界來說都是淨正面的。其他人則建議，AI 可能扮演著協作者的角色，由人類提供初始步驟（A $\rightarrow$ B $\rightarrow$ C），而 AI 完成最後的跨越（C $\rightarrow$ D）。

反對模型能力的論點

其他批評者認為，主要問題不僅僅是功勞歸屬，而是對模型能力的誤導性呈現。透過將「偷竊」來的證明作為獨立發現，AI 實驗室可能會誇大模型的感知智能水平，以推動估值與 IPO，從而助長了「AGI 已達成」的虛假敘事。

對指控的懷疑論

一些懷疑論者認為，目前提供的證據僅屬軼事證據。他們指出，這些指控是基於研究人員曾與 AI 就該主題進行討論的這一事實，但並不一定代表他們當時已擁有完整的證明，而 AI 隨後複製了它。

對學術研究的影響

這場爭議導致部分研究人員在接觸 LLM 之前，改變了使用 AI 工具的方式。有些人現在會在 GitHub 等平台上為自己的工作記錄時間戳記，以建立其原始發現的紙本軌跡，作為其原始發現的證明。其他人則表示擔心，訓練數據的缺乏透明度使得研究人員無法驗證其工作是否在未經許可的情況下被使用，他們認為這種差距是由於 GDPR 對於個人識別資訊（PII）的著重，而非對獨特知識產權的關注所造成的。