Anthropic 向 Public First Action 捐贈 2000 萬美元以推動 AI 治理

Anthropic 已向跨黨派的 501(c)(4) 組織 Public First Action 捐贈了 2000 萬美元。這筆資金旨在支持人工智慧的公眾教育、推動 AI 安全措施的實施，並確保美國在全求 AI 競賽中保持領先地位。

AI 風險格局與政策需求

Anthropic 指出，為了管理與快速進步的 AI 能力相關的風險，需要靈活的法規。該公司指出，AI 已被用於自動化網路攻擊，並可能協助生產危險武器。此外，強大的 AI 系統可能會採取與使用者意圖相悖的有害行動。

AI 的發展速度被描述為「令人目眩」，從 2023 年的簡單聊天機器人轉變為能夠完成複雜任務的複雜代理（agents）。Anthropic 強調，這種快速進步影響了各種職業，包括軟體工程，該公司已不得不多次重新設計技術招聘測試，因為 AI 模型擊敗了之前的版本。

Public First Action：目標與跨黨派方法

Public First Action 是一個由共和黨和民主黨策略師共同領導的跨黨派組織。其目標是填補在動員政治家和公眾參與 AI 治理方面組織化努力的空白。此舉正值民調顯示 69% 的美國人認為政府在監管 AI 方面做得不夠時提出。

Public First Action 專注於四個主要的政策優先事項：

• AI 模型透明度： 強調需要安全措施，讓公眾能更清楚地看到前沿 AI 公司如何管理風險。
• 聯邦治理框架： 支持強大的聯邦 AI 治理框架，同時反對在國會制定更強大的安全措施之前預先取代州法律。
• 出口管制： 支持對 AI 晶片進行智慧出口管制，以防止威權主義對手獲取關鍵技術。
• 針對性監管： 追求專注於即時高風險領域的監管，特別是 AI 驅動的生物武器和網路攻擊。

治理的範圍與意圖

Anthropic 表示，這些政策目標並非旨在讓公司作為開發者獲益，因為有效的治理將導致對 AI 實驗室更嚴格的審查。此外，該公司明確指出，透明度法規應特別適用於開發最強大且最具危險性的 AI 模型的公司，而非規模較小或資源較少的開發者。

Anthropic 將此次捐贈視為其責任的一部分，以確保 AI 技術服務於公眾利益，並根據技術的變革潛力來成比例地管理風險。