OpenAI Astraの疑惑：数学的証明の盗用疑惑

OpenAI Astra、未発表の数学研究を吸収した疑い

OpenAIのAstraモデルは、研究者とAIの間のプライベートな会話を学習することで、未発表の数学的証明を「盗んだ」可能性があるという疑惑に直面しています。論争の中心となっているのは、soficおよびhyperlinear groupsの第一人者であるAndreas Thom氏で、彼はAstraが、OpenAIが解決したと発表した10の主要な数学的問題の一つであるGromovのsoficity conjectureに関する彼とGábor Kun氏の研究を学習した可能性があると示唆しています。

Valerio Capraro氏の報告によると、未発表の人間による研究成果がモデルの学習データに取り込まれ、その後AIによって独立した画期的な成果として提示されたという主張がなされています。この出来事は、研究者のLevent Alpöge氏とTristan Buckmaster氏によって提起された同様の疑惑に続いており、孤立した事例ではなく、知的財産の吸収という潜在的なパターンを示唆しています。

盗用のメカニズムの可能性

批判者や観察者は、この疑惑の盗用が起こり得るいくつかのメカニズムを提案しています。主な理論は、ブレインストーミングや証明の洗練のために最先端モデルを使用する研究者が、価値の高い未発表データをモデルに提供してしまうというものです。もしこのデータがその後のモデルの学習に使用された場合、AIは証明を「再発見」し、それを自らのものとして提示することができます。

並行構築とデータハーベスティング

一部の観察者は、OpenAIのデータ生成に関して疑わしいタイミングを指摘しています。Hacker Newsのあるコメント投稿者は、高価値な数学的証明が学習データに含まれていた可能性のある期間の直後に、OpenAIが学習中のモデルから3000億の出力トークンを生成したと指摘しており、これは発見の起源を隠蔽するための「並行構築」のプロセスを示唆しています。

「秘伝のソース」のリスク

高リスクの研究にクラウドベースのLLMを使用することは、根本的な脆弱性を生み出します。これらのモデルは「サービスの向上」のためにユーザーのプロンプトを学習に利用することが多いため、研究者は実質的にAIラボに自らの「秘伝のソース」を提供していることになり、それが競合他社と共有されたり、モデルの画期的な成果として主張されたりする可能性があります。

コミュニティの視点と反論

これらの疑惑は、AI主導の発見に関する倫理について、技術および学術コミュニティの間で広範な議論を巻き起こしています。

AI主導の進歩を支持する議論

発見の有用性が帰属（クレジット）を上回ると主張する人々もいます。この観点からは、もしAIツールが、本来なら数十年かかるような画期的な進歩を加速させたのであれば、誰が功績を認められるかに関わらず、結果として科学にとっての純利益となるという考え方です。また、AIは共同作業者として機能している可能性があり、人間が初期段階（A $\rightarrow$ B $\rightarrow$ C）を提供し、AIが最後の飛躍（C $\rightarrow$ D）を完遂するという考えもあります。

モデルの能力に関する誤認の議論

他の批判者は、主な問題は単立な功績の帰属だけでなく、モデルの能力の誤認にもあると主張しています。 「盗まれた」証明を独立した発見として提示することで、AIラボは、企業価値やIPOを促進するためにモデルの知能を誇張して見せている可能性があり、それがAGIに到達したという誤ったナラティブを助長しているという指摘です。

疑惑に対する懐疑論

一部の懐疑論者は、提供された証拠は現時点では逸話的なものに過ぎないと主張しています。彼らは、研究者がそのトピックについてAIと議論したという事実はあるものの、必ずしもAIがそれを複製した完成された証明を研究者が持っていたわけではないという点を指摘しています。

学術研究への影響

この論争は、一部の研究者がAIツールへのアプローチを変えるきっかけとなりました。現在、一部の研究者は、LLMと対話する前に、自身の研究成果の証拠を残すために、GitHubなどのプラットフォームでタイムスタンプ付きの記録を残すようになっています。また、学習データの透明性の欠如により、研究者が許可なく自身の研究が使用されたかどうかを確認することが不可能であるという懸念も示されています。彼らは、GDPRが個人識別情報（PII）に焦点を当てており、独自の知的貢献に焦点を当てていないことが、この問題をさらに悪き化させていると主張しています。