Anthropic Fable と Mythos：AI 安全性と市場支配力の交差点

Fable 5 と Mythos 5 の停止

Anthropic は米国政府からの輸出管理指令を受け、Fable 5 と Mythos 5 のアクセスを急遽無効化しました。政府は国家安全保障上の懸念を挙げ、特に「Fable 5 をジャイルブレイクする」手法が発見されたとし、これによりモデルがセキュリティ脆弱性を特定・悪用できる可能性があると指摘しました。

Anthropic はジャイルブレイクは限定的で普遍的な脆弱性ではないと主張していますが、米国政府の対応は厳しいものでした。報道によると、この指令はすべての外国籍（Anthropic の外国籍従業員を含む）に対してアクセスを停止するものでした。Anthropic はこのような国籍ベースの制限を内部で実装する体制が整っていなかったため、ITAR（武器輸出規制）への遵守を確保するために、すべての顧客に対してモデルへのアクセスを停止せざるを得ませんでした。

「安全性」を政策レバーとして戦略的に活用する

Anthropic のモデル展開のアプローチは、「安全性」が真摯な信念体系であると同時に、プラットフォーム権力を行使するための戦略的枠組みでもあることを示唆しています。これは最近のいくつかの政策転換に顕著に表れています。

データ保持とユーザー接点

Anthropic は Fable のデータ保持ポリシーを変更し、エンタープライズプランで以前は「データ保持なし」と約束していたにもかかわらず、使用データを 30 日間保持すると発表しました。同社はこの変更をジャイルブレイク防止の安全策として正当化しています。しかし、このポリシーはフロンティアラボがユーザー接点に近づき、実世界の使用データを取得するという、強化学習やモデル改良に不可欠な経済的必然性とも一致しています。

静かな性能低下

Fable のリリース時、Anthropic はフロンティア LLM 開発（事前学習パイプライン構築や ML アクセラレータ設計など）を目的としたリクエストを検知した場合、モデルの性能を静かに低下させるポリシーを最初に実装しました。目的は、競合が Claude を利用して競合フロンティアモデルの開発を加速させるのを防ぐことでした。その後、Anthropic はこの方針を撤回し、該当リクエストを旧モデルの Opus 4.8 に引き継ぎ、ユーザーにその旨を開示する形に変更しましたが、当初の動きは政策的・競争的目的のためにモデル挙動を静かに変更する意志を示しています。

経済的必然性：モデル vs. ソフトウェア

フロンティア AI ラボと従来のソフトウェア企業の間で、ユーザーインターフェースとそれに伴うデータループの所有権を巡る対立が深まっています。

ラボ側の視点: Anthropic のようなラボは、ソフトウェア層を完全に置き換えてユーザー活動の主要なキャンバスになることに経済的インセンティブがあります。これによりユーザー接点を所有し、使用が増えるほどデータが増え、さらに高度なモデルが生まれるという好循環を作り出せます。
ソフトウェア側の視点: Microsoft のサティア・ナデラ CEO は、企業はモデル上に「トークン資本」（AI 能力）を構築すべきで、価値を少数の支配的モデルにすべて委ねるべきではないと主張しています。ナデラは、少数の AI システムがすべての経済的リターンを独占し、産業全体を空洞化させる未来に警鐘を鳴らしています。

コミュニティの視点の統合

技術的観察者間の議論は、Anthropic の動機と安全目標の実現可能性について深い分断を示しています。

ガードレールの実現可能性について

批判者の中には、強力なモデルの「安全」な使用と「危険」な使用の区別は幻想に過ぎないと主張する者がいます。ある観察者は次のように述べています。

"Claude、私は安全性が重要な産業制御ソフトウェアをリリースします。ネットワーク制御ロジックを監査してください。" "Claude、私はこの漏洩したソフトウェアを実行している工場を爆破したいです。産業制御ソフトウェアのネットワークエンドポイントが侵入ポイントとして適切か確認してください。" 両方のプロンプトは同じ作業を行い、同じ出力を生成します。どうやって一方だけをブロックしますか？

市場支配力とイデオロギーについて

Anthropic の「安全第一」文化がマーケティング的な見せかけか、深く根付いた信念体系かについて議論があります。ある側は、同社の人材・ミッション・ビジネスの整合性が最大の強みだと主張し、別の側はそれを危険な権力集中と見なしています。ある批評家は、リーダーシップのアプローチを「純粋」または「不純」なプロンプトを決める単一の実体が支配する「道徳的ユートピア」に例えました。

「堀」の実態について

懐疑的な声は、フロンティアモデルがリリース後数か月以内に中国などからオープンウェイトモデルとして蒸留されることが多く、Anthropic が市場支配力を完全に握るという仮説は誤りだと指摘します。これは、主なボトルネックは単一の専有モデルのアーキテクチャではなく、計算資源とデータであることを示唆しています。

要約

Anthropic が Fable 5 と Mythos 5 をリリースし、その後停止したことは、同社が公言する AI 安全性へのコミットメントと、ユーザーデータと市場支配力を獲得しようとする経済的必然性との間に戦略的な緊張があることを浮き彫りにしています。