OpenAI 對 The Alignment Project 的資助

OpenAI 已向 The Alignment Project 提供了 750 萬美元的資助，該基金是一個由英國 AI 安全研究所（UK AISI）管理、由 Renaissance Philanthropy 執行的全球基金。此資金旨在透過支持獨立研究者及位於前沿 AI 實驗室之外的概念性方法，來多元化全球對齊研究生態系統。

資金規模與分配

The Alignment Project 現已成為獨立對齊研究最大規模的專屬資助計畫之一。OpenAI 約 560 萬英鎊的貢獻與其他公共、慈善與產業資助者共同，使基金總額超過 2700 萬英鎊。

資金分配如下：

• Project Grants：個別專案通常獲得 5 萬至 100 萬英鎊的資助。
• Support：專案可能獲得可選的計算資源存取與專家支援。
• Scope：基金支援涵蓋計算複雜度理論、經濟理論、博弈論、認知科學以及資訊理論與密碼學等廣泛研究領域。

獨立研究在 AI 安全中的角色

獨立研究對 AI 安全至關重要，因為它能測試多元假設並發展可能不符合任何單一組織內部路線圖的替代框架。OpenAI 表示，前沿實驗室並未在所有有用的探索領域保持比較優勢，尤其是在基礎、概念性以及「藍天」想法方面。

此項投資作為對現行主導對齊方法可能無法如預期擴展的風險對沖。透過支援不相關的工作，生態系統確保即使現有技術方法在 AI 能力提升時未能持久，也能擁有基礎性的突破。

與前沿實驗室研究的整合

OpenAI 保持一個獨立的內部對齊計畫，專注於可擴展方法與迭代部署。迭代部署指的是在逐步提升模型能力的同時，加強防護措施，以提前發現問題並提供實務上有效之具體證據。

雖然前沿實驗室在需要大量計算資源與前沿模型的研究上具備獨特優勢，OpenAI 仍將獨立研究視為互補力量。目標是打造一個強韌且多元的生態系統，使內部實驗室研究與外部獨立研究平行運作，確保 AGI 的安全與惠益。

管理與選拔流程

此筆資助由 UK AISI 管理，該機構是科學、創新與技術部（DSIT）下的政府研究組織。OpenAI 的資金並未建立新的選拔程序或影響既有審核流程；相反地，它提升了本輪已審核合格且高品質專案的資助數量。

UK AISI 被選為此計畫的合作夥伴，原因在於其已建立的政府、學術、慈善與產業跨部門聯盟，以及現有的資助管道與管理聚焦於嚴重 AI 風險之研究資金計畫的專業能力。