Anthropic 向 OSTP 提交的美國 AI 行動計畫建議
TL;DR
Anthropic 已向科學技術政策辦公室（OSTP）提交了一套包含六個要點的建議，主張美國必須立即在安全測試、出口管制、實驗室安全、能源容量、政府 AI 使用以及經濟數據收集方面採取行動，以在預期於 2026 年底出現的強大 AI 系統面前保持領先地位。
強大 AI 的預期到來
Anthropic 預測，在生物學、電腦科學、數學和工程學領域具有相當於諾貝爾獎級專業知識的 AI 系統將在 2026 年底或 2027 年初出現。這些系統預計將：
- 在大多數科學學科中達到或超過人類頂尖的智力表現。
- 在所有數位介面（文字、音訊、影片、鍵盤、滑鼠和網路瀏覽）上進行操作。
- 在長時間內進行自主推理，並在需要時尋求澄清，類似於一名能力極強的員工。
- 透過數位連接控制物理設備，例如實驗室儀器、機器人與製造工具。
Anthropic 以其自身的 Claude 3.7 Sonnet 和 Claude Code 發布，以及其他前沿實驗室的類似進展作為證據，證明通往此類強大 AI 的軌跡正在加速。
六項關鍵政策建議
Anthropic 的提交內容聚焦於六個領域，旨在共同捕捉經濟效益、保護國家安全並廣泛分配 AI 帶來的收益。
1. 國家安全測試
政府機構應建立強大的能力，以評估國內外 AI 模型在安全方面的風險。
- 開發標準化的評估框架。
- 建設安全的測試基礎設施。
- 組建專家團隊以分析已部署系統中的漏洞。
2. 加強出口管制
必須收緊對先進半導體的出口限制，以防止 AI 基礎設施落入對手手中。
- 管制高性能 H2O 晶片。
- 要求在託管大型晶片部署的國家之間達成政府間協議。
- 降低觸發許可要求的門檻。
3. 增強實驗室安全
AI 實驗室應被視為戰略資產，並與情報機構建立機密通訊管道。
- 為產業專業人士建立快速的安全審查機制。
- 為 AI 基礎設施開發下一代安全標準。
4. 擴展能源基礎設施
*到 2027 年，需要達成 50 GW 的專用電力目標，以維持領先的 AI 開發。
- 簡化新電力專案的許可與審批流程。
5. 加速政府 AI 採用
*聯邦政府應盤點可能從 AI 增強中受益的工作流程，並指派機構領導者執行具有高影響力的計畫。
- 進行全政府範圍的 AI 就緒程度評估。
- 優先考慮能帶來明確公共利益的專案。
6. 準備應對經濟影響
現代化經濟數據收集機制，以監控並應對 AI 驅動的勞動力市場與更廣泛經濟中的變化。
- 更新人口普查局的調查與相關數據管道。
- 為潛在的大規模經濟轉型做準備。
與 Anthropic 先前政策工作的銜接
這些建議延伸了 Anthropic 先前對負責任的擴展政策與第三方測試框架的倡議。該實驗室強調採取平衡的方法，在鼓勵創新的同時，減輕由日益強大的 AI 系統所帶來的嚴重風險。
獲取完整提交內容
完整的建議文件，包括詳細的實施策略，可於 Anthropic response PDF 取得。
相關 Anthropic 公告：
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch