Anthropic Mythos and Fable Export Controls: A History of Cyber Export Failures

U.S. Government Restricts Anthropic's Fable and Mythos AI Models

ホワイトハウスは、Anthropicに対し、強力なAIモデルであるFableおよびMythosの、米国国外の個人または団体（米国内の外国籍者を含む）への輸出を制限するよう命じました。この指令により、Anthropicは通知を受けてから約90分以内に、両モデルへのグローバルなアクセスを無効化しました。

Triggers for the Export Ban

輸出禁止の引き金となったのは、以下の2つの具体的な出来事であると報じられています。

Suspected Foreign Ties: Anthropicは、リミテッド・パートナー・プログラムを通じて、韓国の電気通信会社（SK Telecomと広く報じられています）にMythosへのアクセスを提供していました。米国当局は、この会社と中国との間の疑わしい関係について懸念を表明しましたが、同社はこれらの関係を否定しています。
Safety Safeguard Concerns: AmazonのCEOであるAndy Jassyは、Amazonの研究者がFable 5のセーフガードを回避する方法を発見した後、政権に警告を発しました。Anthropicは、これを安全対策の全面的な失敗ではなく、限定的で修正済みの問題であると説明していますが、政府が輸出管理指令を発令する決定を下す一因となりました。

The Historical Ineffectiveness of Cyber Export Controls

「危険な」サイバー技術の拡散を制限するために輸出管理を利用しようとする政府の試みは、歴史的に見て、ソフトウェアは一度開発されると本質的に封じ込めることが困難であるため、中途半端な結果に終わっています。

The PGP Encryption Case (1990s)

1990年代初頭から半ばにかけて、米国政府はPhil Zimmermannによって作成された暗号化ソフトウェアであるPretty Good Privacy (PGP) の配布を阻止しようと試みました。政府は、PGPが情報機関によるメールの傍受を妨げることを恐れていました。

輸出禁止に対抗するため、ZimmermannはPGPのソースコードを印刷された書籍として出版し、武器輸出管理を事実上回避しました。その後のZimmermannに対する刑事調査の終了は、SignalやWhatsAppのようなプラットフォームで今日使用されているエンドツーエンド暗号化の普及に道を開きました。

The Wassenaar Arrangement and Spyware (2010s)

監視およびハッキングソフトウェアの輸出を抑制するため、いくつかの政府は、そのようなツールを「デュアルユース（軍民両用）」技術として輸出ライセンスを必要とする技術と分類する国際条約であるWassenaar Arrangementを拡張しました。

このアプローチは、主に2つの構造的な弱点により失敗しました：

Non-Adherence: 能動的なスパイウェア開発の拠点であるイスラエルを含む主要な国々が、この合意を遵守していません。
Discretionary Enforcement: 加盟国はしばしばルールを不整合に適用します。例えば、イタリア政府は、ジャーナリストや人権活動家を標的にした実績があるHacking Team社に対し、抑圧的な政権へのツールの輸出ライセンスを以前に付与していました。

さらに、Intellexaのような制裁対象のコンソーシアムは、制限を避けるために、サウジアラビアのような輸出管理の緩い国々へ拠点を移転させるだけで、業務を継続しています。

Implications for the Future of Frontier AI

Anthropicと米国政権との間の対立は、フロンティアAIが従来の輸出管理によって封じ込めることができるかどうかのテストケースとなります。主な潜在的な結果は、以下の2つです：

Competitive Reversal: 政権は、米国のAI企業がグローバルな競争力を維持することを確実にするために、制限を解除する可能性があります。これは、他国のラボ（中国を含む）が米国の禁止措置に関わらず、同様の能力を開発する可能性が高いことを認めているからです。
Increased Compliance Burden: AIラボは、すべての外国人顧客に対して政府の承認を得る必要に迫られ、運用および財務上の大きな負担が生じ、成長を妨げる可能性があります。

歴史的に、政府主導の輸出管理は、悪意のあるアクターが強力なデュアルユース・サイバー技術にアクセスすることを阻止するのに不十分であることが証明されてきました。