디지털 기만의 구조: 국가 쇠퇴에 대한 AI 생성 서사
디지털 환경은 영향 작전에서 정교한 진화를 목격하고 있습니다. BBC의 최근 조사( Panorama와 Top Comment 팟캐스트 보고서 포함)에서는 영국 연합 왕국의 국가 쇠퇴 서사를 퍼뜨리기 위해 설계된 상호 연결된 Facebook 및 Instagram 계정 네트워크가 밝혀졌습니다. 이 계정들은 종종 영국 애국자로 가장하지만, 실제로는 스리랑카, 베트남, 몰디브, 아랍에미리트 등 수천 마일 떨어진 국가에 거주하는 개인 및 단체에 의해 운영됩니다.
이 현상은 전통적인 선전에서 전문가들이 "AI 슬롭"이라고 부르는 것으로의 전환을 의미합니다. 이는 알고리즘 참여를 악용하기 위해 대량 생산된 저품질·고영향 AI 생성 콘텐츠를 말합니다. 미래의 디스토피아적 비전을 제조함으로써, 이 행위자들은 단순히 허위 정보를 퍼뜨리는 것이 아니라 수백만 사용자의 인식된 현실을 적극적으로 형성하고 있습니다.
"쇠퇴" 서사의 메커니즘
이 네트워크가 생산하는 콘텐츠는 강렬한 감정 반응을 유발하도록 정교하게 설계되었습니다. 일반적인 주제는 다음과 같습니다:
- 제조된 디스토피아: 2050년 영국 도시를 더럽고 혼란스럽게, "이민자들에 의해 장악된" 모습으로 묘사한 AI 생성 비디오와, 하원에서 샤리아법이 시행되는 가짜 장면을 포함합니다.
- 감정 조작: 연금과 "우리가 알던 영국"에 대해 고통을 호소하는 AI 생성 노인 시민들의 비디오.
- 모순된 메시지: 흥미롭게도 일부 제작자는 영국을 쇠퇴로 묘사하면서 동시에 이슬람 국가를 이상향으로 그려, 사고를 유발하거나 특정 문화적 대비를 만들려는 전략적 시도를 보여줍니다.
이러한 작전은 원래 영국에서 등록된 소셜 미디어 계정을 저비용으로 획득할 수 있기 때문에 해외 사기꾼들이 현지 국민으로 자연스럽게 가장할 수 있게 됩니다.
동기: 이익, 정치, 그리고 국가 행위자
런던 시장 Sir Sadiq Khan과 시청 연구에 따르면, 이러한 캠페인의 동기는 두 가지입니다: 재정적 이익과 지정학적 영향력.
1. 참여 경제
많은 경우 목표는 순수히 금전적입니다. 소셜 미디어 플랫폼은 콘텐츠의 진위 여부와 관계없이 참여(좋아요, 공유, 댓글)를 보상합니다. 일부 계정 운영자는 팔로워를 늘리고 수익화 스키마를 통해 돈을 벌기 위해 의도적으로 분열적인 콘텐츠를 게시했다고 인정했습니다. 한 운영자는 "참여를 위한 반응을 얻는 것"이 목표라고 말했습니다.
2. 지정학적 영향 작전
이익을 넘어 국가 지원 활동의 증거도 있습니다. Sir Sadiq Khan은 일부 계정이 러시아와 이란을 포함한 적대 국가와 연결되어 있어 영국에 대한 대중의 신뢰를 약화시키고 국제적 평판을 손상시키려 한다고 언급했습니다. 이는 AI와 봇을 이용해 특정 의제에 대한 지지를 제조하는 "고용된 허위 정보"의 광범위한 패턴의 일부입니다.
믿음의 심리학
이러한 캠페인에 대한 가장 우려되는 측면 중 하나는 대중이 어떻게 상호작용하느냐입니다. 퀸즈 대학교 벨파스트의 Yvonne McDermott Rees 교수는 사람들은 AI 위조를 감지하는 능력이 전반적으로 낮으며 정확도가 약 55%에 불과하다고 지적합니다.
더 중요한 것은, 콘텐츠의 "진실성"보다 사용자의 기존 세계관과의 일치성이 더 큰 영향을 미친다는 점입니다. 케임브리지 대학의 Sander van der Linden 교수는 사용자가 자신의 정체성과 부합하는 AI 콘텐츠를 지지하고 공유하며, 이는 더 큰 의제에 대한 동의를 나타낸다고 설명합니다. 이는 한 비디오에 달린 사용자 댓글에서 "아마 AI일 수도 있지만, 그는 모든 면에서 옳다"는 발언으로 예시됩니다.
더 넓은 함의
이 추세는 영국에만 국한된 것이 아닙니다. 캐나다에서도 AI 생성된 실제 시민의 복제본을 이용해 반정부 메시지를 퍼뜨린 사례가 보고되었습니다.
기술 및 사회 논평가들은 "알고리즘 참여 경제"가 본질적으로 공포와 증오를 장려한다고 지적합니다. 플랫폼이 사용자를 스크롤하게 만들기 위해 강한 부정적 감정을 유발하는 콘텐츠를 우선시할 때, 해외 사기꾼들은 AI를 무기로 활용할 비옥한 토양을 제공받게 됩니다. 그 결과, 사용자가 AI 콘텐츠를 많이 접할수록 진정한 자료에 대한 신뢰가 감소하고, 사실과 허구의 구분이 무의미해지는 일반적인 인식 붕괴 상태에 이르게 됩니다.