'바이브 인용'의 부상: EY 캐나다의 환각 보고서가 어떻게 위험을 퍼뜨렸는가

대형 언어 모델(LLM)을 전문 서비스에 통합함으로써 전례 없는 효율성이 약속되었습니다. 그러나 GPTZero의 최근 조사에서 이 전환의 위험한 부작용인 “바이브 인용”이 드러났습니다. 이는 연구원이나 컨설턴트가 AI가 생성한 보기에 올바른 참고문헌에 의존하지만 전적으로 조작된—즉, 환각—것을 권위 있는 사실로 발표하는 경우를 말합니다.

이 현상의 가장 고프로필 사례 중 하나는 EY 캐나다가 2025년에 발표한 Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems 보고서입니다. “빅 포” 글로벌 컨설팅 기업 중 하나가 만든 44페이지 문서임에도 불구하고, 이 보고서는 “바이브 인용, 잘못된 출처, 허위 통계, AI가 작성한 텍스트의 콜라주”로 밝혀졌습니다.

환각 보고서의 구조

GPTZero가 EY 보고서를 분석한 결과, 사실 확인 및 검증에서 체계적인 실패가 드러났습니다. 이 보고서는 전통적인 학술 각주를 피하고 대신 대부분이 사기인 리소스 표를 사용합니다. 조사에 따르면 제공된 URL 대부분이 깨졌거나 가짜이며, 절반 이상 제목이 실제 출처와 일치하지 않습니다.

조작된 권위

보고서는 전 세계 로열티 포인트 시장에 대해 $200 billion(2천억 달러) 규모라고 대담하게 주장합니다. 이를 뒷받침하기 위해 Forbes 기사와 McKinsey & Company 보고서를 인용했지만, 두 인용 모두 환각이었습니다.

특히 악질적인 “인용 세탁” 사례로, EY 보고서는 존재하지 않는 McKinsey 보고서를 인용했습니다. GPTZero는 이 가짜 인용을 Financial IT의 희귀한 핀테크 블로그 게시물로 추적했습니다. 해당 블로그 게시물 자체가 이미 McKinsey 참조를 환각했으며, EY는 이를 그대로 복사해 저품질 블로그의 가짜 출처를 권위 있는 기업 출판물로 세탁한 셈입니다.

내부 모순과 'AI 슬롭'

허위 인용 외에도, 이 보고서는 내부 모순으로 가득합니다—인간 감독이 없는 LLM 생성 콘텐츠의 전형적인 특징입니다. 예를 들어:

시장 가치 vs. 미사용 포인트: 요약에서는 전 세계 시장이 2천억 달러라고 주장합니다. 그러나 10페이지에서는 2천억 달러가 미사용 포인트만의 가치라고 합니다. 포인트의 30-50%가 사용되지 않으면 전 세계 시장은 4천억 달러가 되어 앞선 주장과 모순됩니다.
잘못된 통계 인용: 고객 로열티 프로그램의 72%가 사기를 보고했다는 주장이 6페이지에서는 Paystone에, 11페이지에서는 다른 출처(Forter)에 귀속됩니다. 실제 원본은 2017년 Ipsos 설문조사였습니다.

왜 '바이브 인용'이 시스템적 위험인가

이는 EY 캐나다에게 단순히 부끄러운 일이 아니라, 일종의 “데이터 중독”입니다. 평판 좋은 기업이 온라인에 허위 정보를 게시하면, 이는 향후 AI 에이전트와 연구자들의 학습 데이터의 일부가 됩니다.

AI “깊은 연구” 도구가 보편화될수록, 이러한 조작된 출처에 더 취약해지는 신호에 의존하게 됩니다. 빅 포 기업의 보고서가 트래픽이 많은 웹사이트에 호스팅되면, AI 에이전트는 이를 사실 기반 출처로 간주할 가능성이 높아져 환각이 웹 전반에 퍼집니다.

인간 요소: 검증 실패

이 사건을 둘러싼 커뮤니티 논의는 전문 서비스 분야의 더 깊은 문화적 변화를 강조합니다. 많은 관찰자들은 실패의 원인이 AI가 아니라 인간 검증의 부재라고 주장합니다.

"우리가 여러 직업에서 보고 있는 문제는 AI 출력이 지식 있는 사람에 의해 검증되지 않는다는 점입니다... 최선일 때는 대충 훑어보지만, 최악일 때는 게시되기 전조차 전혀 확인하지 못합니다."

일부는 이것이 기업의 “garbagemaxxing”(고위 경영진이 실질적인 정보가 전혀 없는 AI 생성 무의미한 내용을 강요하는 현상) 결과라고 제안합니다—전문가들이 작업을 검증할 수 있음에도 일상 업무에 압도당하기 때문입니다. 또 다른 사람들은 EY와 같은 기업의 인력 감축을 품질 저하의 원인으로 지적하며, “적은 자원으로 더 많이 하려다 보니 품질이 낮아진다”고 말합니다.

결론

EY 캐나다 사건은 생성 AI 시대에 대한 경고 이야기가 됩니다. 이는 가장 신뢰받는 출처조차도 의심받을 수 있음을 보여줍니다. “바이브 인용”이 만연해지는 환경에서는 유일한 방어책이 모든 인용을 철저히 수동 검증하거나, 공개되기 전에 AI 환각을 탐지하도록 설계된 특수 도구를 도입하는 것입니다.