Ethics and AI Weapons: Why a Researcher Left Google DeepMind

一名使用筆名 TurnTrout 的前 Google DeepMind 研究員已從公司辭職，理由是公司在開發致命自主武器 (LAWs) 以及 AI 在政府監控與戰爭中的角色方面，未能系統性地履行其倫理承諾。此次離職凸顯了 AI 實驗室對外宣稱的倫理誓言與其與國家安全機構簽署的私人合約之間日益增長的緊張關係。

The Conflict Between Ethics Pledges and Military Contracts

Google DeepMind 的領導層與資深員工先前曾承諾不參與或支持致命自主武器的開發、製造、貿易或使用。然而，作者指出 Google 簽署了一份直接違反這些承諾的機密協議。

根據作者的說法，未能維持這些「紅線」並非孤立事件，而是整個 AI 產業的模式。作者認為，當安全研究員與高管在這些誓言被打破後仍留在公司時，這向外部合作夥伴發出了信號，表明這些倫理界限是可談判的，從而使未來的承諾變得毫無意義。

Systemic Failures in AI Governance

作者的經驗顯示，旨在確保 AI 倫理使用的內部框架，在與高風險的政府或軍事利益衝突時，往往會被繞過。

The Role of Corporate Influence

討論此案例的批評者與社群成員認為，AI 倫理承諾往往被用作行銷工具，而非具約束力的限制。一位評論者指出，「在壓力下被抹去的倫理承諾只是行銷手段」，這暗示了大型企業的結構優先考慮股東價值與聯邦合作，而非道德立場。

The Geopolitical Pressure

有人認為，對於總部位於美國的公司而言，與政府合作的壓力是不可避免的。關於其他 AI 實驗室（如 Anthropic）類似情況的討論顯示，國家安全機構可能將公司對特定使用案例的「紅線」或否決權視為一種負擔，特別是在緊急軍事衝突中，例如「洲際彈道飛彈 (ICBM) 的 30 分鐘時鐘」，這類情況下，快速反應時間排除了企業進行談判的可能性。

Divergent Perspectives on AI in Warfare

雖然作者的辭職是基於對致命自主武器的嚴格倫理反對，但其他觀點則認為 AI 可能有潛力減少附帶損害。

• The Precision Argument: 一些人認為，「智慧型」AI 武器可能比「笨拙型」武器（如水雷）更具倫理，因為它們能更好地辨別手無寸鐵的平民與軍事資產。
• The Democratic Argument: 其他人則建議，如果政府的政策——例如大規模驅逐出境或軍事行動——獲得了民主授權，那麼 AI 提供者的角色就成為次要的倫理考量。

Industry-Wide Implications

針對這些問題而辭職的 DeepMind 研究員，反映了人們對 AI 驅動的「太陽能龐克 (solarpunk)」式 AI 烏托邦願景的廣泛幻滅感。評論者指出，AI 最初承諾為人類造福的願景，已被轉化為服務於股東與政府利益的資本。

此案例凸顯了 AI 領域的一個關鍵分歧：一方是相信可以在大型企業內部維持倫理界限的人，另一方則是認為企業與政府的連結使得維持這些界限變得不可能。