AI 환각과 법적 최전선: Ashley MacIsaac vs. Google 사건
생성 AI와 대규모 언어 모델(LLM)의 등장으로 검색 경험이 링크 기반 인덱스에서 직접 답변 엔진으로 전환되었습니다. 그러나 이 전환은 심각한 법적·윤리적 위험, 즉 “환각”을 초래합니다. AI 개요가 정보를 요약할 때, 단순히 출처를 가리키는 것이 아니라 새로운 사실 진술을 합성하는 것입니다.
이 긴장은 캐나다 바이올린 연주가 Ashley MacIsaac가 Google을 상대로 제기한 고위험 소송에서 정점에 이르렀습니다. 해당 뮤지션은 AI 개요가 그를 성범죄자로 거짓 주장한 뒤 기술 대기업을 고소하고 있습니다—이 주장은 개인 및 직업적 파멸을 초래할 수 있는 파괴적인 잠재력을 가지고 있습니다. 이 사건은 AI가 생성한 잘못된 정보가 오래된 명예훼손을 어떻게 “디지털 사실”로 전환할 수 있는지를 보여주는 중요한 사례 연구입니다.
분쟁의 핵심: 합성 vs. 인덱싱
수십 년 동안 검색 엔진은 디렉터리 역할을 해왔습니다. 사용자가 특정 인물을 검색하고 명예훼손 웹사이트를 발견하면, 그 책임은 일반적으로 해당 콘텐츠의 원 발행자에게 있었습니다. 그러나 AI 개요는 단순히 콘텐츠에 링크를 제공하는 것이 아니라 요약을 생성합니다.
MacIsaac 사건에서 AI는 거짓 고소를 합성했습니다. 이는 책임에 관한 근본적인 질문을 제기합니다: Google은 중립적인 플랫폼인가, 아니면 발행자인가? 일부는 Google이 수집한 데이터의 단순 “전달자”에 불과하다고 주장하는 반면, 다른 이들은 요약을 합성함으로써 Google이 새로운 콘텐츠를 만들었으며 그 정확성에 대해 책임을 져야 한다고 주장합니다.
법적 전쟁터: 섹션 230 및 국제법
법률 분석가와 관찰자들은 Google이 일반적으로 제3자 콘텐츠에 대한 책임으로부터 플랫폼을 보호하는 미국 통신품위법(CDA) 섹션 230과 유사한 보호를 시도할지 여부를 논의하고 있습니다. 그러나 국경을 넘을 때 법적 환경은 크게 달라집니다:
- 관할권 차이: 관찰자들이 지적한 바와 같이, 미국 중심의 표현의 자유 보호는 캐나다 법원에서 동일한 무게를 갖지 않을 수 있습니다. 캐나다에서는 명예훼손 진술의 진실성에 대한 입증 책임이 미국 시스템과 크게 다를 수 있습니다.
- “앵무새” 논증: 일부는 LLM이 본질적으로 “확률적 앵무새”—진실이나 거짓을 이해하지 못하고 다음 토큰을 예측하는 소프트웨어—라고 주장합니다. 이러한 관점에서 Google은 AI가 내뱉는 내용을 “통제”할 수 없으며, 이는 의도나 악의를 입증하려는 노력을 복잡하게 만들 수 있습니다.
사회학적 영향: 악의를 역사의 일부로 전환
법적 기술적 문제를 넘어, 이 사건은 AI가 역사적 명예훼손을 고착화하는 불안한 사회학적 추세를 강조합니다.
역사적으로, 소문과 사회적 낙인—특히 소외된 집단이나 사회 규범에 도전하는 개인을 겨냥한 것—은 구전이나 소수 매체를 통해 퍼졌습니다. 1990년대에 Ashley MacIsaac는 자신의 성적 지향에 대한 개방성 때문에 큰 비판과 명예훼손에 직면했습니다.
AI가 웹을 스크래핑하면, 인터넷의 모호한 구석에서 오래된 근거 없는 소문을 포착해 권위 있는 요약으로 제시할 수 있습니다. 한 관찰자가 언급했듯이:
"이는 사회학적 관점에서 특히 문제가 됩니다. AI가 악의를 허위 역사로 전환하는 방식을 보여주기 때문입니다... 우리는 아직 이를 꾸며낼 기계가 없었습니다."
환각을 사실적인 개요로 제시함으로써, AI는 소문과 기록된 사실 사이의 구분을 지우는 위험을 안고 있으며, 이는 역사적 편견에 기반한 개인의 소외를 자동화하는 결과를 초래합니다.
정체성에 대한 기술적 도전
또한 “엔터티 구분”이라는 실질적인 문제가 있습니다. 대규모 데이터셋에서 AI는 종종 이름이 비슷한 개인들을 혼동합니다. 예를 들어, AI가 공인과 같은 이름을 가진 범죄 기록이 있는 다른 사람을 혼동하는 경우가 있을 수 있습니다.
이는 LLM에서 흔히 발생하는 기술적 오류이지만, 실제 결과는 단순한 기술적 결함이 아니라 삶을 뒤바꾸는 명예훼손 진술입니다. Google이 직면한 과제는 이러한 오류가 AI가 정체성과 귀속을 처리하는 과정에서의 과실이 아니라는 것을 입증하는 것입니다.