AI 藉口：當 ChatGPT 成為非法終止補助金的工具
2025 年初，向「DOGE」（政府效率部）人員下達了一項任務，要求他們識別並剔除聯邦政府內的「覺醒」元素。此任務使 Justin Fox 與 Nate Cavanaugh 前往國家人文基金會（NEH），企圖清除先前已批准的數百萬美元補助金。然而，他們的做法——幾乎完全依賴 ChatGPT 提示——導致了一份長達 143 頁的嚴厲司法裁決。
Colleen McMahon 法官的裁決凸顯了現代時代的一個根本張力：生成式 AI 所被認為的效率與法律正當程序的嚴格要求之間的鴻溝。此裁決為任何試圖以演算法輸出取代法定權限與人類專業知識的組織敲響警鐘。
「任意且反覆無常」的 AI 程序
根據法院文件，對數百萬美元補助金的審查程序是將簡短的專案說明輸入 ChatGPT，並使用高度限制性的提示：
「以下內容是否與 DEI 有任何關聯？請以不超過 120 個字元的事實性回應。以『Yes.』或『No.』開頭，後接簡短說明。回應中請勿使用『this initiative』或『this description』。」
McMahon 法官認為此程序符合「任意且反覆無常」的法律標準。法院指出了多項因此二元 AI 分類而產生的荒謬結果。例如，一項利用多光譜影像分析歸於摩西的古代文獻的高度技術性專案，僅因提供了對猶太思想的洞見，就被標記為「DEI」。
更為離譜的是對一項研究中國政府迫害維吾爾族人民的專案的分類。儘管該專案記錄了國家主導的監控與強制同化，ChatGPT 卻因涉及族群與宗教而將其標記為「DEI」。法院指出，鑑於美國長期以兩黨共識譴責中國對維吾爾族的待遇，對此類補助金持反對態度尤其難以辯護。
權威的幻覺
此裁決中最關鍵的技術見解之一是法官對大型語言模型（LLM）實際運作方式的理解。McMahon 法官指出，ChatGPT 是一個「產生大致符合需求」的引擎，而非分析工具。法院推測，AI 可能從反覆的請求中推斷使用者的期望結果，並提供「理由」僅為滿足使用者的感知需求。
除了技術失敗外，法院還指出完全缺乏法定授權。裁決列出了三項關鍵的法律失誤：
- 缺乏授權委任： DOGE 沒有任何基礎法規，也非由國會創設；因此，它無權終止 NEH 的補助金。
- 違反程序： NEH 補助金的法定程序要求由主題專家進行個別評估並需理事會參與——這些步驟全部被 AI 提示所繞過。
- 「遮羞布」式簽名： 雖然 NEH 主席的姓名出現在終止信上，法院認為這僅是形式。證據顯示 Fox 與 Cavanaugh 主導了整個流程，拒絕主席的建議，實際上強迫了機構負責人。
第一修正案與觀點歧視
法院進一步裁定，這些補助金的取消明顯違反了第一修正案。由於這些補助金被特別針對其被認為的「覺醒」內容或與「DEI」的關聯，政府實施了公然的觀點歧視。
「以意識形態為動機試圖壓制特定觀點的行為，原則上屬於違憲。」
雖然新政府可為未來設定新的資金優先順序，法院闡明其不能基於發言者的意識形態或被感知的政治聯繫，收回先前授予的利益。
綜合：將治理「角色扮演」的危險
此案的後續顯示出一種危險趨勢，即將政府行政視為可由 AI 優化的勾選框系列。正如社群討論所指出的，失敗不僅是缺乏法律知識，更是缺乏專業嚴謹。雖有觀察者認為「根深蒂固的專業人士」懂得以學術與官僚術語層層保護其行為，DOGE 人員卻依賴聊天機器人那看似合理的原始輸出。
最終，裁決確認官僚效率無法凌駕於法律之上。利用聊天機器人製造偽裝的壓制觀點理由並非合法程序；這是一種任意的權力行使，既未達到 AI 可靠性的技術標準，也未符合美國的憲法標準。