DeepMind Institute：一個用於 AGI 研究的全新跨學科平台

Google DeepMind 推出了 DeepMind Institute (DMI)，這是一個旨在託管有關人工通用智慧 (AGI) 過渡的跨學科研究與論文的發布平台。該倡議旨在為來自 Google DeepMind、Google 以及全球研究社群的研究人員提供一個空間，以發表關於社會應如何應對 AGI 所帶來的挑戰與機遇的創意與見解。

核心研究領域與初步論文

DeepMind Institute 專注於 AGI 發展及其社會影響的幾個關鍵支柱，這從其首批發表的內容中可見一斑：

推理透明度與 AI 安全

DeepMind 研究人員 Rohin Shah 與 Anca Dragan 主張「推理透明度」。他們認為，監控 AI 的「思維鏈」為了解模型的內部推理過程提供了一個關鍵窗口，這對於檢測並防止 AI 系統內部的「策劃與欺騙」至關重要。

經濟政策與 AGI 顛覆

在 Julian Jacobs 與 Alex Imas 的一篇論文中，該研究所探討了十一種不同的經濟政策以管理潛在的顛覆性影響。該分析評估了從輕微到重大顛覆的各種情境，並提出了諸如擴大失業保險、勞動所得稅抵免 (EITC)，以及讓公民擁有 AI 所產生利潤份額的機制等政策建議。

前沿 AI 的框架

Demis Hassabis 提出了一種測試前沿 AI 模型能力的動態方法。該框架旨在支持創新，同時激勵前沿模型的負責任行為與負責任開發。

社會轉型與「務實的烏托邦主義」

Stephen Cave 提出了一種基於謙遜與希望的「務實的烏托邦主義」，主張社會必須主動決定在 AGI 改變世界時希望看到哪些轉型，而不是被動地應對二十世紀的動盪。

社群觀點與批判性分析

圍繞 DeepMind Institute 發布的公眾與社群討論，突顯了關於該平台動機與性質的幾個爭議點與懷疑態度：

平台的性質

許多觀察家指出，DeepMind Institute 並非一個新的非營利組織或獨立的法律實體，而是一個發布平台，或者說是 Google DeepMind 的「內部智庫」。

"Tl;DR: It's not a new organization, or non-profit institute. It's a Substack/blog." — @handle

戰略政策引導

一些批評者認為，開發前沿模型的同一實體，正是試圖引導相關政策討論的同一批人。這在一些人看來是一種利益衝突，或是影響行業其他部分的戰略舉措。

"They are simply looking to steer AI policy discussions. It's basically an in-house think tank." — @handle

對 AGI 時間表的懷疑

關於 DeepMind Institute 關於 AGI 「即將到來」的前提，存在著重大爭論。一些社群成員認為，LLM 的缺陷持續證明我們距離實驗室所聲稱的人類水平認知能力還很遠。

"Crazy that these labs keep throwing around entirely unsubstantiated claims like "AGI is right around the corner". Given the enormity of the problem I'd argue we're not really any closer than a decade ago." — @handle

競爭動態

一些分析師認為，呼籲對 AI 開發採取更謹慎的態度（如 DMI 對安全與透明度的關注）是 Google 的一項戰略舉措，因為 Google 在行動速度上可能落後於 OpenAI 等競爭對手。

"Google, who was left a little bit behind anyway, is more than happy to join the calls for taking a more cautious approach to AI development. Hence DeepMind Institute." — @handle