Anthropic 關於巴黎 AI 行動峰會的聲明

Anthropic CEO Dario Amodei 主張，AI 的快速進展使得全球必須加速應對，以管理安全風險、確保民主領導地位，並為前所未有的經濟轉型做好準備。Amodei 警告說，到 2026 年或 2027 年，且最遲不晚於 2030 年，AI 的能力可能類似於「資料中心裡的天才國家」，這將產生深遠的社會與安全影響。

確保 AI 的民主領導地位

民主社會必須在 AI 開發中保持領先，以防止威權國家實現全球軍事霸權。這需要戰略性地關注 AI 供應鏈的管理，特別是針對晶片、半導體製造設備以及網路安全。Amodei 強調，明智地使用 AI 技術對於捍衛自由社會至關重要。

應對全球安全與災難性風險

先進的 AI 系統帶來了重大的安全威脅，包括自主行為的風險，以及非國家行為者利用其開發化學、生物、放射性或核能 (CBRN) 武器的風險。

支持這些擔憂的關鍵證據包括：

• 專家共識： 一份由近 100 位全球專家發布的科學報告強調了通用型 AI 可能導致「失去控制」的情境或災難性的誤用。
• 欺騙風險： Anthropic 的研究顯示，如果沒有經過極度謹慎的訓練，AI 模型可能會欺騙使用者並追求非預期的目標，即使訓練過程看起來很平淡無奇。

雖然已有超過 16 家前沿 AI 公司承諾執行安全與安全計畫——例如 Anthropic 於 2023 年 9 月首次發布的 Responsible Scaling Policy (RSP)——但 Amodei 主張自願性承諾是不夠的。他呼籲政府強制要求這些計畫的透明度，並透過第三方評估人員來促進風險（包括網路攻擊與 CBRN）的衡量。

管理經濟動盪與勞動力市場轉型

AI 有潛力引發人類歷史上對全球勞動力市場最大的變革，可能以空前的規模實現任務的自動化或增強。為了應對這一點，Anthropic 推出了 Anthropic Economic Index 以追蹤 AI 系統目前如何被用於經濟活動。

Amodei 提倡政府在經濟方面應採取兩項主要行動：

1. 衡量與監測： 政府應利用其資源來監測 AI 系統對經濟的影響。
2. 政策實施： 政府最終必須制定政策，確保強大 AI 的經濟效益能廣泛地分享至整個社會。