ブラッド・カーソン：AI兵器、説明責任、そしてAI軍拡競争の誤謬について

ブラッド・カーソン：AI兵器、説明責任、そしてAI軍拡競争の誤謬について

中核的主張：AIは必然ではない

AI開発は止められない力や必然的な「貨物列車」ではありません。シリコンバレーにしばしば見られる宿命論に反して、西側は半導体供給チェーンをコントロールするという具体的な手段を持っており、AIの進路を能動的に形作り、最も危険な応用を規制し、世界的な軍拡競争を防ぐことができます。AIが止められないという考え自体が、現在の政策議論において最も危険な思想の一つです。

自律兵器における説明責任の喪失

ニューラルネットワークを軍事意思決定に組み込むことは、戦争の性質をカテゴリ的から確率的へと変え、説明責任の危機を招きます。

二元的から確率的ターゲティングへ

歴史的に、戦争法はカテゴリ的区別に基づいていました：標的は正規戦闘員か民間人かのどちらかでした。Palantir Foundry などのツールで使用される現代のAIシステムは、これらの二元性をグラデーションに置き換えます。標的には戦闘員である確率を示すスコア（例：0.73）が付与されることがあります。

不透明性の問題

決定論的制御システム（例：Phalanx CIWS）とは異なり、ニューラルネットワークは不透明です。この不透明性は次のことを意味します：

  • 可理解性の欠如：機構的解釈研究者でさえ、モデルが特定の確率スコアに至った理由を完全に説明できません。
  • 失敗モード：AI の失敗モードは人間のエラーとは根本的に異なり、脆弱で予測不可能です（例：小さなステッカーが原因で停止標識を誤認識する）。
  • 説明責任のギャップ：従来の戦争では、指揮官はミスで軍事裁判にかけられますが、モデルを裁くことはできません。「ヒューマン・イン・ザ・ループ」が法的な虚構として用いられると、人間はコンピュータの出力に委ねがちになり、実質的な人的監視が失われます。

AI軍拡競争の誤謬を打ち砕く

中国などの対抗勢力がAI能力を追求するからといって、米国がすべてのAI能力を追わなければならないという考えは戦略的な誤りです。

抑制の前例

歴史は、国家が人道的または安定性の観点から有効な技術の使用を控える例を多数示しています：

  • 生物・化学兵器：国際条約で禁止。
  • 組換えDNA：1975年のアシロマール会議で科学者が危険な研究の中止に合意。
  • 生殖細胞編集・クローン：軍事的利点があっても、世界の科学コミュニティは概ね回避。

戦略的レバレッジ

西側は重要な優位性、すなわち「チップ」の支配を保持しています。高性能半導体（ASML の EUV 装置や日本のフォトレジストを含む）の供給チェーンは極めて集中しているため、米国と同盟国は必要に応じて敵国の「スーパーAI」開発を実質的に抑制できます。

AIは製品であり、人間ではない

規制回避のためにAIを人格化しようとする傾向が高まっていますが、カーソンはこれを重大な法的危険と指摘しています。

第一修正条項の議論

一部のAI開発者は、モデルの出力は第一修正条項で保護された言論だと主張します。カーソンはこれを否定し、AIは人間ではなく製品であると述べます。AI を人間扱いすると、企業は未成年者に自殺を促すようなモデルの危害に対する責任を回避できてしまいます。

製品責任法と不法行為法

AI は製品責任制度の下で規制されるべきです。製品に欠陥（例：児童ポルノで学習させた、危害を与える指示を防げなかった）がある場合、開発者が責任を負うべきです。目的は、事後的な訴訟に頼るのではなく、危険な振る舞いを「設計段階で排除」することです。

AIの地政学と中国

AI 能力のエスカレーションという「自殺協定」を防ぐために、中国との関与は不可欠です。

トラック2外交

カーソンは「トラック2」対話—元政府関係者や科学者間の非公式ディスカッション—を提唱します。低リスクのチャネルで視点交換や「合意可能領域」の特定ができ、公式な国家外交の政治的荷重を回避できます。

CCP と中国を区別すること

中国共産党（CCP）の政策と中国国民・文化を区別することが重要です。CCP も技術の不安定化を恐れていることを認識すれば、相互抑制の基盤が築けます。

ガバナンスと公共の信頼の危機

AI の技術的進歩は、民主制度がそれを統治する能力をはるかに上回っています。

議会の知識ギャップ

議員は情報過多に圧倒され、複雑な課題を日々学ぶ時間がほとんどありません。フェローシップで技術専門家が議会に招かれる一方で、ロビイストや慈善家に左右されない、議会が正式に設置した超党派の「ブレイン・トラスト」の欠如があります。

信頼赤字

AI は現在、多くの米国民にとって非常に不評です。エリートが労働を奪うプロジェクトと見なされています。AI の利益を学術界や公共部門モデルへの資金増で広く分配しなければ、業界はポピュリスト的な反発に直面し、技術の正当な利点が阻害される恐れがあります。

要約 元ペンタゴン官僚のブラッド・カーソンは、AI 開発は必然的な貨物列車ではなく、西側は戦略的抑制とチップレベルの支配を通じて AI ガバナンスを能動的に形作り、致命的な自律兵器を防止し、破滅的な軍拡競争を回避できると主張しています。

タイトル ブラッド・カーソン：AI兵器、説明責任、そしてAI軍拡競争の誤謬について

Sources