Anthropic 支持加州 SB 53

Anthropic 已正式支持加州參議院第 53 號法案 (SB 53)，這是一項旨在規範強大 AI 系統開發的立法努力。該法案旨在為前沿 AI 開發者建立強制性的透明度與披露框架，以減輕災難性風險，而不像之前的監管嘗試那樣施加指令式的技術指令。

Core Requirements of SB 53

SB 53 將監管重點轉向「信任但驗證」的方法，要求開發最強大 AI 系統的大型公司遵守以下指令：

Safety Frameworks: 開發者必須建立並發布安全框架，詳細說明他們如何管理、評估與減輕災難性風險——災難性風險被定義為可能對重大金錢損失或大規模傷亡事件做出實質性貢獻的風險。
Transparency Reports: 在部署新的強大模型之前，公司必須發布公開報告，總結其災難性風險評估以及為履行其安全框架所採取的步驟。
Incident Reporting: 關鍵安全事件必須在 15 天內向州政府報告。此外，開發者必須機密地披露有關內部部署模型可能產生災難性風險評估的摘要。
Whistleblower Protections: 該法案為舉報違反這些要求或因災難性風險而對公共健康與安全構成特定、重大危險的員工提供法律保護。
Public Accountability: 公司在法律上須對其框架中所做的承諾負責，若不遵守則將面臨金錢處罰。

Scope and Industry Alignment

SB 53 的目標是開發最強大 AI 系統的大型公司，並為新創公司與較小型公司提供豁免，以避免不必要的監管負擔。

Anthropic 指出，這些要求使幾家前沿實驗室已採用的做法正式化。例如，Anthropic 使用 Responsible Scaling Policy 並發布 system cards 以記錄模型的能力與限制。類似的框架已被 Google DeepMind、OpenAI 與 Microsoft 採用。透過將這些披露義務強制化，SB 53 創造了一個公平的競爭環境，防止實驗室為了獲得競爭優勢而降低安全與披露計畫。

Technical Thresholds and Future Improvements

Anthropic 將 SB 53 視為一個強大的基礎，但建議未來監管演進的三個領域：

Training Compute Thresholds

該法案目前根據訓練時使用的運算能力量來識別受規管的 AI 系統，門檻設定在 10^26 FLOPS。Anthropic 指出，雖然這是一個可以接受的起點，但存在某些強大模型可能落在該範圍之外的風險。

Detail of Evaluations

Anthropic 主張開發者應針對其進行的測試、評估與減輕措施提供更細粒度的細節。他們強調自己與 Frontier Model Forum 的合作工作，作為分享安全研究與紅隊測試如何強化整體安全生態系統的一個範例。

Adaptive Regulation

由於 AI 技術進步迅速，Anthropic 主張監管機構必須具備動態更新規則的能力，以維持安全與創新之間的平衡。

Regulatory Context

雖然 Anthropic 主張前沿 AI 安全理想上應在聯邦層級處理，以避免各州監管法規的拼湊，但該公司支持 SB 53，因為強大 AI 的進步速度快於華盛頓的聯邦共識。