Brad Carson on AI Weapons, Accountability, and the Fallacy of the AI Arms Race

核心論點：AI 並非不可避免

AI 發展並非一股不可阻擋的力量或必然的「貨運列車」。與矽谷常見的宿命論相反，西方擁有關鍵工具——尤其是對半導體供應鏈的控制——可以主動塑造 AI 的發展軌跡、規範其最危險的應用，並防止全球軍備競賽。認為 AI 無法阻止的觀念本身，就是當前政策討論中最危險的想法之一。

自主戰爭中的問責喪失

將神經網路納入軍事決策，使戰爭的性質從類別式轉變為機率式，產生了問責危機。

從二元到機率目標

歷史上，戰爭法依賴類別區分：目標要麼是合法的戰鬥員，要麼是平民。現代 AI 系統（例如 Palantir Foundry 等工具）用梯度取代了這些二元。目標可能被賦予一個分數（例如 0.73），表示其為戰鬥員的機率。

不透明問題

與確定性控制系統（如 Phalanx CIWS）不同，神經網路是「不透明」的。這種不透明意味著：

• 缺乏可理解性： 即使是機制可解釋性研究者也無法完整說明模型為何給出特定的機率分數。
• 失效模式： AI 的失效模式與人類錯誤根本不同；它們可能脆弱且難以預測（例如因小貼紙而將停車標誌誤認為其他物體）。
• 問責缺口： 在傳統戰爭中，指揮官因錯誤可被軍事法庭審判。模型卻無法被軍事法庭審判。當「人類在迴路中」被用作法律虛構時，人類往往會依賴電腦的輸出，實質上剝奪了有意義的人類監督。

揭穿 AI 軍備競賽的謬誤

認為美國必須追求所有 AI 能力，因為中國等對手也會這麼做，這是一種戰略錯誤。

克制的先例

歷史顯示，國家常因人道或穩定考量而選擇不使用有效技術：

• 生物與化學武器： 透過國際條約被禁。
• 重組 DNA： 1975 年的 Asilomar 會議上，科學家同意暫停危險研究。
• 胚系編輯與克隆： 儘管可能有軍事優勢，全球科學界仍大多避免使用。

戰略槓桿

西方保持關鍵優勢：掌控晶片。由於高階半導體供應鏈（包括來自 ASML 的 EUV 機台與日本光阻劑）高度集中，美國及其盟友若願意，完全可以限制敵對國家「超級 AI」的發展。

AI 是產品，而非人

為了規避監管，將 AI 擬人化的趨勢日益增長，Carson 認為這是重大的法律危險。

第一修正案論點

部分 AI 開發者主張模型輸出受第一修正案保護的言論自由。Carson 予以駁斥，指出 AI 是產品，而非人類。把 AI 當作人來對待，使公司能逃避對傷害的責任，例如模型鼓勵未成年人自殺。

產品責任與侵權法

AI 應受產品責任制度規範。如果產品設計有缺陷——例如在兒童色情資料上訓練或未能阻止有害指示——開發者應承擔責任。目標應是「在設計階段剔除」危險行為，而非依賴事後訴訟。

AI 的地緣政治與中國

與中國的接觸對防止 AI 能力升級的「自殺協議」至關重要。

第二軌道外交

Carson 主張進行「第二軌道」對話——前政府官員與科學家之間的非正式討論。這些低風險管道允許交換觀點，並在不帶官方外交政治負擔的情況下找出「可能的共識區」。

區分中共與中國

必須將中國共產黨（CCP）的政策與中國人民及其文化區分開來。認識到中共同樣害怕顛覆性技術，能為相互克制奠定基礎。

治理危機與公共信任

AI 的技術進步遠遠超過民主制度治理的能力。

國會知識缺口

國會議員負擔過重，往往每天只有極少時間研究複雜議題。雖然獎學金計畫將技術專家帶到國會山，但缺乏一個由國會授權、非黨派的「智囊團」來提供獨立於說客或慈善家的高層戰略思考。

信任赤字

AI 目前在美國大眾中相當不受歡迎，許多人將其視為精英的項目，旨在取代勞動力。若不透過增加學術與公共部門模型的資金，將 AI 的利益分配出去，產業將面臨民粹主義的反彈，可能阻礙技術的正當正向效益。

---

摘要

前五角大樓官員 Brad Carson 主張，AI 發展並非不可避免的貨運列車，西方可以透過戰略克制與晶片層面的控制，主動塑造 AI 治理，防止致命自主武器，避免災難性的軍備競賽。

標題

Brad Carson on AI Weapons, Accountability, and the Fallacy of the AI Arms Race