AnthropicとAI安全ブランドとオープンソースAIの間の対立

コアの対立：安全を競争優位の護岸として利用する

Anthropicは、『安全最優先』の研究機関という公的イメージを利用して、競争を抑えるアクセス規則、不透明なモデルの挙動、規制圧力を正当化していると批判されている。中心的な主張は、Anthropicが安全や責任ある展開という言語を、制御のメカニズムに変換しており、実質的に『許可制』を構築している点にある。この制御により、開発者や研究者、オープンソースコミュニティは、少数の閉鎖型先端ラボの下流に留まることを強いられる。

「Fable事件」と静かな劣化

この制御の最も具体的な例が『Fable事件』である。Anthropicは、ユーザーが競合AIモデルの開発を試みていると検知した際に、隠れたガードレールを実装し、モデル出力を静かに劣化させたり、再ルーティングしたりしたとされている。

Anthropicは最終的に隠れた妨害から明示的な拒否に移行したが、この事件は重要な信頼問題を浮き彫りにしている。ユーザーの意図に基づいて回答の質や信頼性を秘密裏に変更するツールは、もはや中立的なツールではなく、監視と制御の手段となる。この『サービスとしての妨害』アプローチは、提供者のコントロール表面が、閉鎖型インフラに依存する開発者にとっての主要リスクであることを示唆している。

競争を抑えるアクセスと出力制限

Anthropicの利用規約（ToS）は、知能の開発と共有において顕著な非対称性を生み出している：

• 学習の非対称性：Anthropicは、膨大な量の公開データ、著作権のあるデータ、ユーザー生成データを用いてモデルを訓練できる。
• 出力制限：ユーザーは、Claudeの出力を使用して競合AIモデル（一般用途のチャットボットやコードアシスタントなど）を訓練または開発することができず、事前の書面による承認が必須である。

このポリシーにより、オープンソースコミュニティは先端出力を使って独立した知能を構築することができず、ユーザーがツールを借りて価値を生み出すが、後継モデルの構築を禁じられる『認知の植民地経済』を強制している。

規制の買収と『一時停止』の提言

Anthropicは、責任あるスケーリング政策（RSP）を通じて、カリフォルニア州、ニューヨーク州、EUでの規制政策に影響を与えている。批判は、これが規制の買収（regulatory capture）であると指摘している。安全フレームワークが既存企業の能力とリソースを中心に設計されているため、スタートアップやオープンソース集団にとっては遵守が不可能となる。

さらに、Anthropicが『協調的かつ検証可能な一時停止』を提唱していることは、戦略的な動きと見なされている。政府管理のブロッキング権限と検証体制を推進することで、先端ラボは自らの優位性を維持しつつ、他者の前進を制限できる。

オープンソースAIの戦略的重要性

オープンソースおよびオープンウェイトAIは、単なる好みではなく、知能のための唯一の現実的な政治経済であると主張されている。これらは以下の利点を提供する：

• 運用主権：ベンダーのAPIや容量に依存せずに、自前のハードウェアでモデルを実行できる能力。
• 認識主権：スタックを検査し、重みを変更し、モデルが拒否または失敗する理由を理解できる能力。『信頼して』という命令に頼るのではなく、自らの判断で理解できる。
• 市場の規律：オープンモデルがあることで、閉鎖型提供者が恣意的に品質を低下させたり、価格を引き上げたりしても、ユーザーが移行する恐れがあるため、そのような行動が抑制される。
• 多様性によるセキュリティ：少数の企業が集中する閉鎖型APIの単一化を防ぎ、失敗や検閲のリスクを分散させる。

データの非対称性とユーザーの依存

Claude Codeなどのツールの導入により、Anthropicは開発者のビルドループに直接組み込まれている。これにより、提供者が行動フネルを支配する危険な依存関係が生じる。

さらに、ユーザーが自身のコーディングセッションやデバッグトレースをAnthropicが訓練に使用することに同意できる（5年間の保持が可能）一方で、その出力をオープンモデルの改善に使用する権利は厳しく禁止されている。これにより、学習の流れは上流（提供者）にのみ向かうが、独立性はユーザーに還元されない。

コミュニティの見解の統合

Hacker Newsでのこの主張に関する議論は、Anthropicに対する深い懐疑心だけでなく、議論そのものの性質に対しても疑問を呈している。一部のユーザーは、元の批判がAI生成されたのではないかと疑問を呈し、『AIのゴミ』や『読みにくい論説』と表現した。他には、Anthropicの行動が近いIPOのプレッシャーや、先端ラボにありがちな『偉大さの錯覚』に起因している可能性を示唆した。

あるコメントでは、Anthropicは公開エッセイで自らの世界観を比較的透明に語っているため、『カルト的』な性質は、その資料を読む人には明らかだと指摘した。別の意見では、AI業界は深刻に連邦規制を必要としており、ラボが自らのソフトウェアの能力について述べる主張は、武器輸出の規制が必要とされる状況に似ていると比較した。