슬롭에 의한 사망: AI 환각이 당신의 부고를 쓸 때

인터넷은 언제나 소문이 빠르게 퍼지는 장소였지만, 현대 AI의 속도와 자신감은 새로운, 초현실적인 형태의 허위 정보를 도입했습니다. The Cuckoo's Egg의 전설적인 해킹 연대기 저자이자 Klein bottle 사업가인 Cliff Stoll은 자신이 아직 살아 있다는 사실을 사람들에게 알려야 하는 특이한 상황에 처하게 되었습니다.

이 상황은 Stoll이 사망 후에도 그의 사업이 여전히 운영 중인지 묻는 우려 섞인 이메일을 받기 시작하면서 전개되었습니다. 그 원인은? 페이스북에 떠돌던 The Cuckoo's Egg에 대한 AI‑생성 리뷰였습니다. 그 리뷰는 단순히 인공적인 찬사를 넘어서, Stoll이 2024년 5월에 사망했다고 자신 있게 선언했습니다.

"AI 슬롭"의 부상

Stoll의 경험은 현재 많은 사람들이 "AI 슬롭"이라고 부르는 현상의 교과서적 사례입니다—소셜 미디어 피드를 범람시켜 계정을 성장시키고 팔로워를 얻기 위해 만든 저품질 AI‑생성 콘텐츠. Hacker News 커뮤니티 구성원들이 지적했듯이, 이러한 스팸을 시작하는 장벽은 놀라울 정도로 낮습니다.

"LLM에게 흥미로운 주제로 소셜 미디어 게시물을 쓰라고 요청하고 온라인에 올리는 데 1분도 안 걸립니다... 내가 보는 계정들은 실수가 많고 사실을 환각하는 저렴한 모델을 사용하는 것 같습니다."

이 환각이 단순한 버그가 아니라 기능이라는 냉소적인 이론도 있습니다. 일부는 조작된 사실이 제공하는 "추가 양념"이 게시물을 더 흥미롭게 만들어, 아직 합성 콘텐츠의 특징을 인식하지 못한 사용자들이 공유할 가능성을 높인다고 주장합니다.

퍼포먼스 망상

LLM의 기술적 실패를 넘어, 이번 사건은 정보 생산 방식의 더 깊은 철학적 변화를 강조합니다. 일부는 AI가 정확성보다 "퍼포먼스"라는 렌즈를 통해 개발되고 있다고 주장합니다. 이 프레임워크에서 목표는 근본적인 사실이 진실인지 여부와 관계없이 설득력 있는 서사나 매력적인 콘텐츠를 만드는 것입니다.

이 "퍼포먼스 망상"은 자신감 있는 거짓으로 나타납니다. AI는 자신이 거짓말을 하고 있다는 것을 "알고" 있는 것이 아니라, 리뷰처럼 들리는 시퀀스에서 가장 가능성 높은 다음 토큰을 예측할 뿐입니다. 그 시퀀스에 조작된 사망 날짜가 포함되면, AI는 이를 검증된 사실과 같은 권위로 제시합니다.

거짓의 피드백 루프

이 흐름에서 가장 우려되는 측면은 잘못된 정보의 재귀적 루프가 발생할 가능성입니다. AI 모델이 웹에서 스크랩한 데이터를 학습하고, 웹이 AI‑생성 "슬롭"과 환각으로 점점 채워진다면, 모델은 이러한 조작을 실제 진실로 받아들일 수 있습니다.

그 결과, 환각이 여러 플랫폼에 걸쳐 반복적으로 등장하면서 후속 AI 모델과 무방비한 인간에게 "검증된" 사실이 됩니다. 한 관찰자는 이것이 인터넷이 "예술적 허구와 거짓의 집합"으로 인식되는 미래를 초래할 수 있다고 지적했습니다.

디지털 흔적의 아이러니

이 특정 사례에는 깊은 아이러니가 존재합니다. Cliff Stoll은 The Cuckoo's Egg에서 컴퓨터 로그를 이용해 실제 침입자를 추적한 인간 중심의 꼼꼼한 노력으로 유명해졌습니다. 이제 그는 존재하지 않는 무덤으로 이어지는 디지털 흔적을 만드는 합성 존재에 의해 "추적"되고 정의되고 있습니다.

Stoll은 마크 트웨인에게 경의를 표하듯, 자신의 사망 보도가 "다소 과장된" 것이라고 언급하며 상황을 처리했지만, 이 사건은 강력한 경고가 됩니다. AI 생성이 만연한 시대에 검증의 부담은 완전히 소비자에게 전가되었습니다. AI가 사람들을 "그들이 눈치채기 전에 죽게" 만들 수 있다면, 남은 유일한 진실의 원천은 인간의 직접적인 확인, 즉 "아직 죽지 않았어"가 됩니다.