작전명 “트롤링 스톤(Trolling Stone)”: 러시아 연계 영향력 행사 활동

요약

OpenAI는 “트롤링 스톤”이라 불리는 러시아 연계 조직적 영향력 행사 작전의 일환으로 사용된 여러 ChatGPT 계정을 삭제했습니다. 이들은 AI로 생성된 기사와 댓글을 사용하여 러시아의 한 사이비 종교 지도자를 홍보하고 아르헨티나 언론을 공격했습니다.

행위자 및 지리적 발자취

이 작전에는 아르헨티나에서 체포된 러시아 사이비 종교 지도자 콘스탄틴 루드네프(Konstantin Rudnev)에 관한 AI 생성 콘텐츠를 게시한 계정들이 포함되었습니다. 활동은 파키스탄, 아르메니아, 우루과이, 아르헨티나, 카자흐스탄에서 시작되었으며, 파키스탄과 연계된 대행 행위자가 개입되었습니다. 이 네트워크는 루드네프를 옹호하는 메시지와 아르헨티나 사법 체계 및 Rolling Stone Argentina를 비판하는 메시지를 모두 생산했습니다.

언어별 조직적 행동

  • 영어 프롬프트는 파키스탄 기반 사용자로부터 나왔으며, 러시아어 프롬프트는 다른 참가자들이 사용했습니다.
  • 지리적으로 분산되어 있음에도 불구하고, 행위자들은 아르헨티나 스페인어로 일관된 루드네프 옹호 서사를 생산하여 현지 뉴스 매체로 위장한 페이스북 페이지에 게시했습니다.
  • 이 작전은 짧은 뉴스 스타일의 기사(34문단)를 생성하여 새로 생성된 페이스북 페이지(2025년 10월 1415일 등록)에 게시했으며, 관리자 위치는 우루과이, 아르메니아, 파키스탄으로 표시되었습니다.

“페이스북 페이지 ‘El Horizonte’에 대한 소개 및 페이지 정보… 아르헨티나 내 편집 주소 주장과 우루과이, 아르메니아, 파키스탄의 페이지 관리자 위치에 주목하십시오.” – OpenAI 사례 연구

콘텐츠 생산 파이프라인

  1. 기사 생성 – ChatGPT는 일반적인 아르헨티나 뉴스 기사를 작성하고 루드네프에 관한 러시아어 기사를 아르헨티나 스페인어로 번역하는 데 사용되었습니다.
  2. 게시 채널 – 기사는 가짜 페이스북 뉴스 페이지뿐만 아니라 YouTube, Medium 및 일부 아르헨티나 뉴스 웹사이트에도 게시되었습니다. 최소 한 건의 사례에서 게시된 텍스트는 AI 출처를 숨기기 위해 엠대시(em-dash)를 제거한 것을 제외하고는 AI 출력물과 일치했습니다.
  3. 댓글 여론 조작(Astroturfing) – 별도의 ChatGPT 계정이 동일한 기사와 Rolling Stone Argentina의 페이스북 및 인스타그램 게시물에 댓글 스레드를 생성했습니다. 댓글은 풀뿌리 참여를 가장하기 위해 여러 플랫폼(perfil.com, YouTube, Medium, Instagram)에 게시되었습니다.

“이 작전에 의해 생성된 기사에 대한 댓글로, 아르헨티나 뉴스 웹사이트 perfil.com, YouTube, Medium에 게시되었습니다.” – OpenAI 사례 연구

Rolling Stone Argentina 표적 공격

이 작전은 루드네프에 대한 Rolling Stone Argentina의 보도를 구체적으로 공격했습니다. Rolling Stone이 루드네프를 “괴짜 구루”라고 지칭하는 기사를 게시한 후, 해당 네트워크는 AI로 생성된 댓글을 게시하여 잡지의 저널리즘 실패를 비난했습니다. 일부 댓글은 게시 전날 ChatGPT로 편집된 조작된 반박 기사로 연결되었습니다.

운영 지침 및 조정

  • 파키스탄 사용자는 ChatGPT에 각 가짜 계정이 하루 20회 게시하고 매일 진행 상황을 업데이트하도록 요구하는 일련의 지침을 구현하도록 요청했습니다.
  • 러시아어 사용자는 ChatGPT에 이 지침을 영어로 번역하여 파키스탄의 동료에게 전달해 달라고 요청했으며, 게시물 양과 가짜 계정을 실제처럼 보이게 하는 전술을 상세히 설명했습니다.
  • 추가 프롬프트는 루드네프의 사이비 종교 모집 방법으로 보고된 바 있는 밀교와 샤머니즘을 언급하며 여성 그룹을 위한 홍보 자료를 생성했습니다.

측정된 영향력

  • 페이스북 페이지는 수백 명의 팔로워만 확보했으며, 게시물은 일반적으로 한 자릿수의 참여를 기록했습니다.
  • 일부 AI 생성 기사는 아르헨티나 지역 뉴스 매체에 의해 재게시되었으나, OpenAI는 제출 과정을 확인할 수 없었습니다.
  • 브루킹스(Brookings)의 브레이크아웃 척도(Breakout Scale)(1=최저, 6=최고)를 사용하여 OpenAI는 이 작전을 4단계 하위권으로 평가했으며, 이는 주류 미디어로의 확산이 제한적이었음을 나타냅니다.

AI 거버넌스에 대한 시사점

  • 이 사례는 사용하기 쉬운 언어 모델이 여러 언어와 플랫폼에 걸쳐 조직적인 허위 정보 캠페인에 어떻게 무기화될 수 있는지 보여줍니다.
  • 이는 AI 기반 영향력 행사 작전을 완화하기 위해 강력한 탐지, 계정 수준 모니터링 및 신속한 대응 메커니즘이 필요함을 강조합니다.
  • OpenAI의 관련 계정에 대한 선제적 차단은 실질적인 완화 조치를 보여주지만, 행위자들의 국경을 넘나드는 특성은 관할권 집행에 대한 과제를 부각시킵니다.

이 사례 연구는 2026년 2월 OpenAI의 AI 악용 방지 보고서에 처음 게시되었습니다.

Sources