AI 변명: ChatGPT가 불법적인 보조금 종료 도구가 될 때
2025년 초, 연방 정부 내 "woke" 요소를 식별하고 제거하라는 "DOGE"(Department of Government Efficiency) 요원들에게 명령이 내려졌다. 이 임무는 저스틴 폭스와 네이트 카버노를 국립 인문학 기금(National Endowment for the Humanities, NEH)으로 이끌었으며, 그곳에서 그들은 이전에 승인된 수백만 달러 규모의 보조금을 정리하려 했다. 그러나 그 방법은 거의 전적으로 ChatGPT 프롬프트에 의존했으며, 그 결과 143페이지에 달하는 신랄한 사법 판결이 내려졌다.
콜린 맥마혼 판사의 결정은 현대 시대의 근본적인 긴장을 강조한다: 생성형 AI가 제공하는 효율성에 대한 인식과 법적 적법 절차에 대한 엄격한 요구 사이의 격차. 이 판결은 알고리즘 출력으로 법정 권한과 인간 전문성을 대체하려는 모든 조직에 대한 경고 이야기가 된다.
"임의적이고 변덕스러운" AI 프로세스
법원 문서에 따르면, 수백만 달러 규모의 보조금 검토 과정은 매우 제한적인 프롬프트를 사용해 축약된 프로젝트 설명을 ChatGPT에 입력하는 방식으로 이루어졌다:
‘다음 내용이 DEI와 전혀 관련이 있습니까? 사실에 근거하여 120자 이하로 답하십시오. ‘Yes.’ 또는 ‘No.’ 로 시작하고 간략한 설명을 덧붙이세요. 답변에 ‘this initiative’ 또는 ‘this description’을 사용하지 마십시오.’
맥마혼 판사는 이 과정이 법적 기준인 "임의적이고 변덕스러운"에 해당한다고 판단했다. 법원은 이 이진 AI 분류에서 비롯된 여러 터무니없는 결과들을 강조했다. 예를 들어, 모세에게 귀속된 고대 문서를 분석하기 위해 다중스펙트럼 이미징을 사용하는 고도로 기술적인 프로젝트가 유대 사상에 대한 통찰을 제공한다는 이유만으로 "DEI"로 표시되었다.
더 심각한 사례는 중국 정부의 위구르 인권 탄압을 연구한 프로젝트가 "DEI"로 분류된 경우다. 해당 프로젝트는 국가 주도의 감시와 강제 동화 정책을 문서화했음에도 불구하고, ChatGPT는 이것이 민족·종교 집단과 관련된다는 이유만으로 "DEI"라고 라벨링했다. 법원은 위구르 인권에 대한 미국의 오랜 양당적 비판을 고려할 때, 이러한 보조금을 불리하게 평가하는 것이 특히 정당화하기 어렵다고 지적했다.
권위의 환각
판결에서 가장 중요한 기술적 통찰 중 하나는 대형 언어 모델(LLM)의 실제 작동 방식을 판사가 이해한 점이다. 맥마혼 판사는 ChatGPT가 "원하는 것을 대략 생성하는" 엔진이며, 분석 도구가 아니라고 언급했다. 법원은 AI가 반복적인 요청을 통해 사용자가 원하는 결과를 추론하고, 단순히 사용자의 요구에 부응하기 위해 "합리적 근거"를 제공했을 가능성이 높다고 제시했다.
기술적 실패를 넘어, 법원은 법정 권한의 전면적인 부재를 확인했다. 판결은 세 가지 주요 법적 실패를 제시한다:
- 권한 위임 부재: DOGE는 유기적인 법령이 없으며 의회에 의해 설립되지 않았으므로 NEH 보조금을 종료할 권한이 없었다.
- 절차 위반: NEH 보조금에 대한 법정 절차는 주제 전문가와 위원회의 개별 평가를 요구하지만, AI 프롬프트에 의해 이 모든 단계가 완전히 생략되었다.
- "가면" 서명: NEH 의장의 이름이 종료 서한에 기재되어 있었지만, 이는 형식적인 절차에 불과했다. 증거에 따르면 폭스와 카버노가 과정을 직접 지시하고 의장의 권고를 거부했으며, 실질적으로 기관장을 강제했다.
제1수정헌법과 관점 차별
법원은 보조금 취소가 명백히 제1수정헌법을 위반한다고 추가 판결했다. 보조금이 특정 "woke" 내용이나 "DEI"와의 연관성을 이유로 표적이 되었기 때문에, 정부는 노골적인 관점 차별을 저질렀다.
‘특정 관점을 억압하려는 이념적 시도는 추정적으로 위헌이다.’
새로운 행정부가 미래의 자금 우선순위를 설정하는 것은 허용되지만, 법원은 연설자의 이념이나 인식된 정치적 연관성을 이유로 이미 부여된 혜택을 회수할 수 없다고 명확히 했다.
종합: “코스프레”식 거버넌스의 위험
이 사건의 파장은 AI가 최적화할 수 있는 체크박스 시리즈로 정부 행정을 취급하는 위험한 추세를 드러낸다. 커뮤니티 논의에서 지적된 바와 같이, 여기서의 실패는 단순히 법적 지식 부족이 아니라 전문적 엄격성의 부재였다. 일부 관찰자들은 "뿌리 깊은 전문가들"이 학문적·관료적 용어층으로 행동을 방어한다는 점을 제시하지만, DOGE 요원들은 챗봇의 날것이고 설득력 있게 들리는 출력을 신뢰했다.
궁극적으로, 판결은 관료적 효율성이 법을 초월할 수 없음을 확인한다. 아이디어를 억압하기 위해 챗봇을 이용해 변명적 근거를 만들어 내는 것은 법적 절차가 아니라, AI 신뢰성의 기술적 기준과 미국 헌법 기준 모두를 충족하지 못하는 임의적인 권력 행사이다.