Dario Amodei 對 AI 指數增長政策的看法

AI 進展與政策之間的不匹配

AI 能力正以指數速度快速發展，遠遠超過立法與政治程序的速度。政治機構本意設計上行動緩慢，以防止權力的魯莽使用，然而 AI 已從基本的程式碼協助，發展到在四年內於主要 AI 公司中撰寫大部分程式碼。這種時間尺度的不匹配造成危險的鴻溝，使得 AI 能在政策制定者尚未回應之前，從消費者工具演變為具有全球影響的戰略資產。

從透明度轉向具約束力的規範

由於先前難以預測 AI 風險的具體形式，早期的政策努力聚焦於透明度與資訊揭露。然而，像 Claude Mythos Preview 這類模型的出現已證明，前沿模型現在對網路安全、關鍵基礎設施與國家安全構成了實質風險。

為了應對這些風險，AI 規範應轉向類似聯邦航空管理局（FAA）的模式，要求強大技術在部署前必須接受嚴格的技術測試與審核。

提議的規範框架

Amodei 提出一套具約束力的規範系統，包含以下要求：

• 必須的第三方測試： 超過特定計算門檻的模型必須在四個關鍵領域進行風險審核：網路安全、生物武器、AI 控制喪失，以及可能加速這些風險的自動化研發。
• 政府干預權力： 政府應具備根據第三方評估，阻止或阻嚇具有不可接受風險之模型部署的權限。
• 安全標準： AI 開發者必須實施嚴格的安全標準以保護模型權重，並定期進行紅隊測試與滲透測試。
• 事件通報： 必須即時通報四個關鍵風險領域的安全事件。

應對宏觀經濟衝擊與勞動力問題

強大的 AI 可能使經濟成長與勞動需求脫鉤，形成高速增長與高度不平等並存的情境。由於 AI 能作為人類認知能力的通用替代品，它可能導致持續的工作取代，而傳統市場機制無法解決此問題。

勞動力穩定的政策介入

為減輕 AI 驅動的取代所帶來的社會影響，建議採取以下措施：

• 加強測量： 政府應擴大經濟統計，以即時、精確地追蹤 AI 所導致的工作流失。
• 促就業激勵： 推行工資保險（補償轉至較低薪資職位的勞工）、雇主保留稅收激勵，以及勞動力培訓補助金。
• 長期支援： 若勞動需求永久下降，可能需要透過普遍基本收入（UBI）或全民資本帳戶等機制，並以對 AI 公司的稅收或提高資本利得稅作為資金來源。

加速 AI 正向科學影響

雖然 AI 本身需要更嚴格的安全規範，但它加速的下游領域——如生物醫學與材料科學——可能因過於緩慢的監管體系而受阻。現行 7-8 年的藥物批准流程是為較慢的創新速度設計，面對 AI 產生的大量候選藥物時可能會陷入瓶頸。

為防止規範拖慢拯救生命的進展，FDA 與 EMA 等機構應制定接受 AI 模擬取代緩慢實體實驗的標準，包括：

• 基於 AI 的藥效動力學與藥代動力學（PD/PK）建模。
• 臨床試驗中的合成對照組，以減少受試者需求。
• AI 驅動的毒理預測，以減少動物實驗。

保障公民自由與民主權力

AI 帶來了由能繞過民主監督、利用自主系統的行為者「突如其來奪權」的風險。為防止 AI 成為極權的最終工具，需要特定的法律保護：

• 自主武器問責制： 完全自主的武器必須設計成能接受憲法與司法監督（例如司法「關閉開關」）。
• 國內禁令： 法律禁止在國內領土及執法中使用完全自主武器。
• 隱私漏洞封堵： 關閉允許政府購買大量私人資料以進行大規模 AI 分析的「資料經紀人漏洞」。
• 公平的 AI 存取： 確保受到政府不利行動影響的公民，能取得至少與政府使用的 AI 工具同等能力的資源。

地緣政治策略：民主 AI 聯盟

AI 被視為軍事與經濟力量的主導來源，可與核武器的影響相提並論甚至超越。擁有顯著 AI 領先的國家在戰略、研發與情報方面可能擁有壓倒性的優勢。

為保持領導地位，民主國家應組成全球聯盟，以：

• 控制供應鏈： 協調成員之間的晶片與半導體製造設備（SME）共享，同時拒絕提供給對手。
• 統一標準： 協調國際對生物與網路風險的安全標準，以減輕產業負擔並提升效能。
• 相互防禦： 共同打造以 AI 為主導的網路防禦與 AI 驅動的情報共享。

批判性觀點與反論

圍繞這些提案的討論凸顯了對其動機與實際效果的重大懷疑：

• 監管俘獲： 批評者認為類似 FAA 的事前核准與強制審計會造成巨大的進入壁壘，實質保護既得利益者，使新興 AI 初創公司難以出現。
• 開放權重爭議： 「保護模型權重的強安全標準」的要求被部分人解讀為將開放權重模型非法化，將權力集中於少數企業手中。
• 經濟現實主義： 有觀察者指出，對後勞動世界「意義與目的」的關注是富裕階層脫離現實的觀點，因大多數人工作主要是為了生存。
• 一致性疑慮： 批評者指出，主張對 AI 模型加強規範，同時又呼籲放寬 FDA 對 AI 驅動藥物的規範，存在矛盾。