AIの口実：ChatGPTが違法な助成金停止の手段になるとき
2025年初頭、連邦政府内の「ウォーク」要素を特定し排除するよう、"DOGE"（政府効率化局）の職員に対して命令が出された。この任務によりジャスティン・フォックスとネイト・カヴァノーは国立人文科学基金（NEH）へ向かい、以前に承認された助成金数百万ドルを削除しようとした。しかし、彼らの手法は—ほぼ完全にChatGPTのプロンプトに依存する—というもので、結果として厳しい143ページの司法判決を招いた。
コリーン・マクマホン判事の決定は、現代における根本的な緊張関係—生成AIの効率性と法的適正手続きの厳格な要件との間のギャップ—を浮き彫りにしている。この判決は、アルゴリズムの出力を法的権限や人間の専門知識の代わりにしようとする組織への警告となる。
「恣意的かつ気まぐれ」なAIプロセス
裁判所の文書によれば、数百万ドル規模の助成金の審査プロセスは、要約されたプロジェクト説明を極めて制限的なプロンプトでChatGPTに入力することから構成されていた：
‘以下はDEIに関係していますか？120文字以内で事実に基づいて回答してください。「Yes.」または「No.」で始め、その後に簡潔な説明を付けてください。回答に『this initiative』や『this description』は使用しないでください。‗
マクマホン判事は、このプロセスが「恣意的かつ気まぐれ」であるという法的基準を満たしていると判断した。裁判所は、この二元的なAI分類から生じた幾つかの不条理な結果を指摘した。例えば、モーセに帰属するとされる古代文書を分析するための多スペクトルイメージングという高度に技術的なプロジェクトが、ユダヤ思想への洞察を提供しただけで「DEI」とフラグ付けされた。
さらに甚だしいのは、中国政府によるウイグル民族の迫害に関する研究が分類されたことだ。プロジェクトは国家主導の監視と強制的同化を記録しているにもかかわらず、ChatGPTはそれが民族・宗教的集団に関わるため「DEI」とラベル付けした。裁判所は、米国が長年にわたり超党派で中国のウイグルに対する扱いを非難してきたことを考えると、このような助成金を不利に扱うことは特に正当化が困難であると指摘した。
権威の幻覚
判決における最も重要な技術的洞察の一つは、判事が大規模言語モデル（LLM）の実際の機能を理解している点である。マクマホン判事は、ChatGPTは「ほぼ欲しいものを生成する」エンジンであり、分析ツールではないと指摘した。裁判所は、AIは繰り返しのリクエストからユーザーの望む結果を推測し、単にユーザーの要求と認識されたものを満たすために「根拠」を提供したと示唆した。
技術的失敗を超えて、裁判所は法定権限の完全な欠如を指摘した。判決は、三つの主要な法的失敗を確立した：
- 委任の欠如: DOGEは有機的な法令を持たず、議会によって設立されたものでもないため、NEH助成金を終了させる権限がなかった。
- 手続きの違反: NEH助成金の法定プロセスは、専門家による個別評価と評議会の関与を必要とするが、これらはAIプロンプトによって完全に回避された。
- 「見せかけ」の署名: NEH議長の名前が終了通知に記載されていたが、裁判所はこれが単なる形式に過ぎないと判断した。証拠は、フォックスとカヴァノーがプロセスを指揮し、議長の提案を却下し、実質的に機関長を強制したことを示している。
第一修正と視点差別
裁判所はさらに、助成金の取消しは第一修正の明確な違反であると判示した。助成金が「ウォーク」的内容や「DEI」との関係とみなされたことを狙い撃ちにしたため、政府は露骨な視点差別に関与した。
‘イデオロギーに基づく特定の視点を抑圧しようとする試みは、推定的に違憲である。‗
新政権が将来の資金優先順位を設定することは許容されるが、裁判所は、話者のイデオロギーや政治的関係とみなされたことに基づいて、以前に付与された利益を取り消すことはできないと明確にした。
総合：ガバナンスの「コスプレ」危険性
この事件の余波は、政府行政をAIで最適化すべきチェックボックスの連続として扱う危険な傾向を明らかにした。コミュニティの議論で指摘されているように、失敗は単なる法的知識の欠如だけでなく、専門的厳密さの欠如でもあった。一部の観察者は「根深い専門家」たちが学術的・官僚的な専門用語で行動を覆い隠す方法を知っていると示唆するが、DOGEの職員はチャットボットの生の、説得力のある出力に依存した。
最終的に、判決は官僚的効率性が法を上回ることはできないと確認した。アイデアを抑圧するために口実的な根拠をチャットボットで作り出すことは法的手続きではなく、AIの信頼性に関する技術的基準と米国憲法上の基準の両方に失敗する恣意的な権力行使である。