OpenAI, Stop News 러시아 영향력 활동 차단

OpenAI는 "Stop News"라는 러시아 출신 영향력 작전과 연관된 ChatGPT 계정 클러스터를 차단했습니다. 이 작전은 AI 생성 콘텐츠를 활용해 여러 플랫폼에서 뉴스 매체와 소셜 미디어 계정을 흉내 내어 특정 서사와 홍보 자료를 퍼뜨렸습니다.

작전 개요 및 행위자 프로필

Stop News 작전은 러시아에서 시작되었으며 마케팅 회사가 운영하는 것으로 보였습니다. OpenAI는 Meta의 2024년 2분기 위협 보고서에서 발견된 플랫폼 외 지표를 바탕으로 조사를 시작했습니다. 이 작전의 주요 목표는 영어, 프랑스어, 러시아어로 콘텐츠를 생성해 다양한 웹사이트와 소셜 미디어 플랫폼에 배포하는 것이었습니다.

AI 기반 콘텐츠 생성 및 배포

Stop News는 OpenAI 모델을 사용해 짧은 댓글, 장문 기사, 이미지 등 다양한 콘텐츠를 생성했습니다. 배포 전략은 언어와 목표 지역에 따라 달라졌습니다:

  • 영어 및 프랑스어: 장문 기사는 영국 및 아프리카의 뉴스 매체인 척하는 웹사이트에 게시되었습니다. 짧은 댓글은 X(구 Twitter)를 통해, 그리고 잠재적으로 Facebook 및 Instagram을 통해 배포되었습니다.
  • 러시아어: 콘텐츠는 러시아어 포럼 및 웹사이트에서 홍보 자료로 활용되었으며, 상트페테르부르크 지역 기업에 대한 고객 피드백에 대한 응답도 포함되었습니다.

시각 자료 및 이미지 사용

이 작전은 이미지 생성에 DALL·E를 활용하는 데 특히 활발했습니다. 이러한 이미지는 일반적으로 만화 스타일, 밝은 색상, 혹은 주목을 끌고 참여를 높이기 위한 극적인 톤을 특징으로 했습니다. OpenAI는 이 이미지들이 딥페이크나 사건을 허위로 나타내기 위한 것이 아니라 게시물을 더 눈에 띄게 만들기 위한 것이라고 밝혔습니다.

또한, 이 작전은 최신 AI와 구식 기술을 혼합했습니다. DALL·E가 콘텐츠 생성에 사용된 반면, 소셜 미디어 계정의 프로필 사진은 종종 2019년 이후 영향력 작전에서 흔히 사용되는 생성적 적대 신경망(GAN)으로 만들어졌습니다.

콘텐츠 주제 및 서사

Stop News가 생성한 콘텐츠는 대상 청중에 따라 다양한 주제에 초점을 맞추었습니다:

  • 영국: britishtalks[.]com의 콘텐츠는 비정치적 뉴스, 스포츠, 문화에 초점을 맞추었습니다. 그러나 euronewstop[.]co[.]uk는 이 콘텐츠에 우크라이나와 영국의 우크라이나 지원에 대한 비판을 섞었습니다.
  • 아프리카(프랑스어): 기사와 댓글은 서아프리카 음악과 문화에 초점을 맞추었으며, 우크라이나와 프랑스에 대한 비판을 섞었습니다. 여기에는 프랑스가 파리 올림픽 조직에 실패했다는 비난도 포함됩니다.
  • 러시아: 콘텐츠는 주로 러시아 북서부, 특히 상트페테르부르크 지역의 상업 서비스를 홍보했습니다.

영향 및 참여 분석

AI를 사용했음에도 불구하고, 이 작전의 소셜 미디어 참여는 낮은 수준에 머물렀습니다. 대부분의 X 계정은 두 자릿수 팔로워 수를 가졌으며, Meta는 Facebook과 Instagram 전체에서 2,100명의 팔로워가 있다고 보고했습니다.

하지만 이 작전은 정당한 지역 조직과 “정보 파트너십”을 구축하는 데 독특한 성공을 거두었습니다. 파트너로는 웨일즈의 한 학교, 요크셔의 교회, 캘리포니아의 상공회의소 협회가 포함되었습니다. 이 조직들은 자체 웹사이트에 파트너십 정보를 게시했으며, 이를 통해 작전의 “뉴스” 브랜드가 공동 출판물 및 지역 사회 활동을 통해 회원들과 교류할 수 있었습니다.

돌파 규모 평가

OpenAI는 이 작전을 돌파 규모(Breakout Scale) 1~6 중 카테고리 3으로 평가합니다. 이 평가는 다음을 근거로 합니다:

  • 활동: 여러 플랫폼에서 게시 활동이 이루어졌습니다.
  • 참여: 실제 인물, 특히 “정보 파트너”가 작전에 참여한 증거가 있었지만, 대규모 러시아 “트롤” 작전만큼의 바이럴성은 없었습니다.

연관 도메인

OpenAI는 Operation Stop News와 연관된 다음 도메인을 확인했습니다:

  • Euronewstop[.]co[.]uk
  • Newstop[.]africa
  • Britishtalks[.]com
  • Britishattitudes[.]com

Sources