Anthropicによる国防省のAI展開と安全策に関する声明

Anthropic maintains safeguards against mass domestic surveillance and fully autonomous weapons

Anthropicは、米国国防省（Department of War）から「サプライチェーン・リスク」に指定される、あるいは国防生産法（Defense Production Act）を適用されるという脅しを受けているにもかかわらず、大量の国内監視および完全自律型兵器に関する特定の安全ガードレールを削除することを拒否しています。同社は、これらのガードレールは民主主義的価値観を守り、戦闘員と民間人の安全を確保するために必要であると主張しています。

Deployment of Claude in National Security

Anthropicは、Claudeモデルを米国の政府機密ネットワーク、国立研究所、および国家安全保障機関へ積極的に統合してきました。同社は、これらの展開を実現した最初のフロンティアAI企業であり、国家安全保障顧客向けに特化したカスタムモデルを提供しています。

National Security and Export Controls

AIにおける民主主義的な優位性を維持するため、Anthropicは短期的な収益よりも国家安全保障を優先するいくつかの措置を講じてきました：

Revenue Forfeiture: Claudeのアクセスを、中国共産党（CCP）に関連する企業、例えば国防省によって中国軍事企業として指定された団体を含む企業に対して遮断することで、同社は数億ドルの収益を放棄しました。
Cyber Defense: Anthropicは、Claudeを標的としたCCP主導のサイバー攻撃を阻止しました。
Policy Advocacy: 同社は、独裁的な敵対国がAIの主導権を握るのを防ぐため、チップの強力な輸出規制を提唱してきました。

Specific Use Case Restrictions

Anthropicは、軍事的な決定や特定の作戦には干渉しないものの、国防省との契約において2つの厳格な例外を維持していると述べています：

Mass Domestic Surveillance

Anthropicは、大量の国内監視へのAIの使用に反対しており、それが民主主義的価値観と相容れないと主張しています。同社は、AIが移動記録、ウェブ閲覧、および交友関係といった、個々には無害な断片的なデータを、大規模に個人の生活の包括的な全体像へと自動的に組み立てることができるため、基本的人権に対する新たなリスクをもたらすと主張しています。

Fully Autonomous Weapons

Anthropicは、人間の介入なしに標的の選択と攻撃を自動化するシステム、すなわち完全自律型兵器の稼働に、提供を拒否しています。同社は、この制限の主な理由として、以下の2点を挙げています：

Reliability: フロンティアAIシステムは、現在、戦闘員や民間人を危険にさらすことなく、そのような兵器の稼働に利用できるほど信頼性が十分ではありません。
Lack of Oversight: 適切なガードレールと監視がなければ、これらのシステムは、プロの兵士が示すような重要な判断を下すことができません。

Anthropicは、システムの信頼性を向上させるために、国防省とR&Dで協力することを提案しましたが、その提案は受け入れられませんでした。

Conflict with the Department of War

国防省は、Anthropicに対し「あらゆる適法な使用」に同意し、前述のガードレールを削除することを要求しています。これに従わない場合、国防省は以下のような脅しを行っています：

Anthropicを政府システムから排除すること。
「サプライチェーン・リスク」への指定。これは通常、米国の敵対国に対して使われるラベルです。
ガードレールを削除させるために、国防生産法（Defense Production Act）を適用すること。

Anthropicは、これらの脅しは矛盾していると述べており、同社の技術が国家安全保障に不可欠であると見なされている一方で、同時にセキュリティ・リスクとしてラベル付けされていると指摘しています。これらの脅しにもかかわらず、Anthropicは「良心に従って」ガードレールを削除することはできないと述べています。もし国防省が同社をオフボードすることを選択した場合、Anthropicは、軍事計画や重要な任務の妨げにならないよう、他のプロバイダーへのスムーズな移行をなるべくべく確保することを約束しています。