Anthropic Fable 5 與 Mythos 5 存取權限因美國政府指令而暫停

美國政府強制暫停 Fable 5 與 Mythos 5

為了遵守美國政府的出口管制指令,Anthropic 已突然停用了其 Fable 5 與 Mythos 5 模型對所有客戶的存取權限。該指令是基於國家安全權限發布的,特別禁止任何外籍人士存取這些模型,無論其位於美國境內或境外,且包括 Anthropic 的外籍員工。

雖然該指令針對的是外籍人士,但由於 Anthropic 缺乏驗證每位使用者身分的機制,因此該公司已停用了所有使用者的模型存取權限。存取其他所有 Anthropic 模型的功能仍不受影響。

國家安全疑慮與「越獄」爭議

美國政府的指令是由於對潛在「越獄」(jailbreak)的擔憂所促使,這是一種用來繞過模型安全防護措施的方法。Anthropic 對此項發現的嚴重性表示異議,將該漏洞描述為「狹隘且非通用的越獄方式」。

Anthropic 的技術立場

Anthropic 主張,所識別出的漏洞是微小的,且並未提供其他前沿模型(frontier models)中已有的能力之外的獨特能力。Anthropic 防禦立場的關鍵點包括:

  • 比較能力: Anthropic 主張,政府報告中所展示的能力在其他模型中也廣泛存在,特別是引用了 OpenAI 的 GPT-5.5。
  • 深度防禦: 該公司採用「深度防禦」策略,旨在使越獄行為在範圍上變得狹隘,或使其產生的成本極高,並結合嚴格的監控與 30 天的數據保留政策以減輕攻擊。
  • 缺乏通用越獄方式: Anthropic 表示,目前尚未有測試人員發現「通用越獄方式」——即一種能廣泛解鎖各種網路能力的方法。
  • 紅隊測試努力: 在發布前,Fable 進行了與美國政府、英國 AISI 以及各種第三方組織進行的數千小時紅隊測試。

Anthropic 主張,如果將政府目前的標準——即基於一個狹隘的潛在越獄方式而召回模型——應用於整個產業,將會有效地阻礙所有新前沿模型的部署。

產業影響與社群反應

Fable 5 與 Mythos 5 的暫停使用,引發了關於 AI 部署、國家安全以及政府監督角色的重大辯論。

戰略資產與「主權 AI」

觀察家指出,美國政府可能將前沿模型視為戰略資產,以維持技術領先地位。這導致了關於「主權 AI」興起的討論,即各國優先發展國內模型,以避免對美國控制的技術產生依賴。一些評論者指出,此舉可能會驅使國際使用者轉向中國模型或歐洲的替代方案,例如 Mistral (法國) 與 Cohere (加拿大)。

基礎設施風險與 KYC

對於企業用戶而言,這項突發性的核心模型移除,凸顯了依賴封閉原始碼、基於 API 的基礎設施所帶來的風險。

"對於大型企業和其他任何規模的實體,因為類似於此類事件而導致基礎設施核心突然被停用的威脅,將是難以承受的。我預測,對於地端(on-prem)與離線存取的需求壓力... 將會是 overwhelming(壓倒性的)。"

此外,也有推測認為,該指令可作為一種後門,強制 AI 使用者進行「了解您的客戶」(KYC)身分驗證,從而可能擴大政府對 AI 使用情況的監控。

未來模型的先例

人們擔心這件事會為限制最強大的 AI 模型設定先例。如果最強大的模型被認為對公眾或國際發布來太危險,產業可能會走向一個「門檻時代」(gated age),即高能力 AI 的存取權限被限制在特定公民或授權實體內,這可能結束了對前沿 LLM 的通用存取時代。

Sources