米国政府、AnthropicのFableおよびMythosモデルへの外国からのアクセスを禁止

米国政府、Anthropicの最先端AIモデルへの外国からのアクセスを停止

トランプ政権は、Fable 5およびMythosを含む、Anthropicの最も有能なAIモデルへの外国の政府、企業、および個人によるアクセスを禁止しました。この決定は、Amazonの研究者が特定のプロンプトを使用して、Fable 5からサイバー攻撃を容易にする可能性のある情報を抽出できたという報告を受けて下されたものです。その情報は、モデルの安全ガードレールによって制限されるはずのものでした。

規制強化におけるAmazonの役割

AmazonのCEOであるAndy Jassyと、財務長官Scott Bessent、国家サイバーディレクターのSean Cairncross、商務長官のHoward Lutnickを含む米国の政府高官との間の対話が、政府の対応を引き起こしました。Jassyは、Amazonの研究者がFable 5に対して、サイバー攻撃に有用な禁止情報の提供を促すプロンプトを成功させたことを当局者に報告しました。

AmazonはAnthropicの重要な投資家（同社の5%以上を保有）であり、重要なコンピューティングチップのプロバイダーでもありますが、Jassyによる報告を受けて、ホワイトハウスはセキュリティリスクを軽減するための最も直接的な方法は、これらのツールへの外国からのアクセスを阻止することであると結論付けました。トランプ大統領は、この措置がグローバルなイノベーションを妨げる可能性があるという懸念を押し切り、セキュリティ上の理由からこの措置を承認しました。

Anthropicの対応と運用への影響

政府の命令を完全に遵守するため、Anthropicはすべてのユーザーに対してMythosとFableの両方へのアクセスを遮断するという、抜本的な措置を講じました。この措置は、いくつかの即時の課題を生み出しています：

研究の妨げ: Anthropicは、自社の研究者の多くが外国出身であることを理由に、政府の規則が実質的に彼らが最新のモデルを使用できないようにすることを意味すると述べています。
グローバルな脆弱性研究: この遮断は、グローバルな企業がこれらのツールを使用してソフトウェアの脆弱性を特定し、修正する能力を損なう可能性があります。
市場の地位: アナリストは、トップモデルの停止は、Anthropicが今秋に予定されている初期公開（IPO）に向けて準備を進める中で、同社の地位を弱める可能性があり、ユーザーをOpenAIのような競合他社へ向かわせる可能性があると示唆しています。

モデルの安全性に関する技術的論争

Fable 5が独自のセキュリティ脅威を表しているかどうかについては、大きな意見の相違があります。Anthropicと一部の独立したセキュリティ研究者は、Amazonが指摘した脆弱性は基本的なものであり、他の公開されているLLMも同様の発見ができる能力がある、と主張しています。

GreyNoise Intelligenceの創設者であるAndrew Morrisは、Fable 5がソフトウェアプログラム内のセキュリティバグを特定できる一方で、モデルが動作する「exploit」コードを生成する能力を保護するガードレールをAmazonの研究者が回避したという証拠はないと指摘しました。

政治的および規制的背景

この規制強化は、一部の人々によって、AI業界に対する政府の管理を強めるという、より大きな傾向の一部と見なされています。この動きは、AIモデルに対するセキュリティ担当官の監視を権限を付与する最近の大統領令や、政府がAI企業への株式取得を検討している継続的な議論に続くものです。

批判者や観察者は、いくつかの潜在的な緊張関係を強調しています：

政治的摩擦: Anthropicは、リベラルな寄付者とのつながりや、CEOのDario Amodeiによる以前の政権批判により、トランプ政権との摩擦の歴史があります。
セキュリティ指定: Pentagonは以前にAnthropicをセキュリティリスクとして指定しており、その動きに対して同社は現在、2つの訴訟で戦っています。
管理の制御の集中化: R Street InstituteのAdam Thiererは、この出来事を「AIの政治化と、高度な計算資源への制御の集中化における重大なエスカレーション」と表現しました。

コミュニティの視点と分析

業界の観察者やHacker Newsのユーザーは、禁止措置の動機に関するいくつかの反論論点や理論を理論として挙げています：

"I still am struggling to understand why they informed the government about something that is known to be an issue in an issue in every LLM. There is no LLM that cannot be jailbroken... what was the reason to tell the government now?"

一部のユーザーは、この動きがxAIの競合を抑制しようとする試みであるか、あるいは政府がAmazonを代理人として使用してAnthropicを「揺さぶり」にかかっている結果であると推測しました。また、ベンダー（Amazon）がパートナー（Anthropic）を政府に報告することの皮肉を指摘する声もあり、一方で、Amazonの行動は、単に、高いセキュリティ基準を要求する公共部門の顧客にサービスを提供するクラウドプロバイダーとしての役割の結果であると主張する人々もいました。