Anthropic 回應加州州長 Newsom 成立的 AI 工作小組草案報告

TL;DR

Anthropic 讚揚 Newsom 州長成立的 AI 工作小組草案報告強調了客觀標準與透明度，並指出該實驗室已透過其「責任規模政策」(Responsible Scaling Policy)、公開安全披露以及第三方測試來遵循報告中的許多建議，同時倡導採取輕度干預的政府措施，使這些做法成為普遍標準。

與工作小組關注點的一致性

Anthropic 同意客觀、基於證據的標準對於前沿 AI 治理至關重要。該實驗室特別支持報告中對透明度的強調，認為其是低成本、高影響力的工具，可用於：

• 擴大新 AI 技術相關的證據基礎。
• 建立消費者信任。
• 鼓勵 AI 公司之間的正和競爭。

Anthropic 對工作小組呼籲實驗室披露模型竊取保護與國家安全風險測試表示歡迎。

與報告建議相符的 Anthropic 現有做法

• Responsible Scaling Policy – 公開詳細說明 Anthropic 如何評估濫用與自主性風險，並定義觸發更高安全與安全措施的閾值。
• Safety and security testing disclosures – 結果會在每次重大模型發布時與大眾分享。
• Third‑party testing – 外部審計與內部評估相輔成效，正如 Anthropic 的第三方測試公告中所述。

這些做法與報告建議前沿實驗室應採用透明的安全與安全協定一致。

呼籲採取輕度干預的政府措施

Anthropic 指出，目前前沿 AI 公司並非被要求：

1. 發布安全與安全政策。
2. 公開描述該政策。
3. 記錄他們所進行的測試。

該實驗室主張，適度的輕度干預式監管可以在不扼殺創新的情況下填補這一差距。在最近提交給白宮的一份政策建議書中，Anthropic 警告說，強大的 AI 系統可能最早在 2026 年底出現，強調了建立透明政策體制的緊迫性。

經濟影響關注點與未來貢獻

工作小組強調了對 AI 經濟影響進行更深入研究的需求。Anthropic 正透過開發一個經濟指數 (Economic Index) 來回應此點，以追蹤 AI 驅動的經濟變化。該實驗室計劃繼續向工作小組提供反饋，以協助完成報告。

結論

Anthropic 讚賞 Newsom 州長啟動 AI 工作小組的舉措，並承諾將與加州在處理前沿模型安全的方式上進行合作，同時敦促整個行業透過輕度干預式監管來更廣泛地採用透明的安全與安全做法。