OpenAI, Operation Sneer Review 중국 기원 영향 활동 차단

OpenAI는 대량의 소셜 미디어 콘텐츠와 내부 조직 문서를 생성하는 데 사용된 ChatGPT 계정을 차단함으로써, 중국 기원의 은밀한 영향 작전인 Operation Sneer Review를 방해했습니다. 이 활동은 생성 AI를 활용해 유기적인 참여를 시뮬레이션하고, 중국의 지정학적 이익에 부합하는 내러티브를 여러 글로벌 플랫폼에 퍼뜨리려는 시도입니다.

행위자 및 작전 의도

OpenAI는 ChatGPT를 사용해 소셜 미디어 게시물과 내부 성과 리뷰를 제작하던 계정을 식별하고 차단했습니다. 해당 행위자의 의도는 영어, 중국어, 우르두어로 콘텐츠를 생성하여 은밀한 영향 작전(IO)을 수행하는 것이었습니다.

행위자의 주요 특성은 다음과 같습니다:

  • 언어 및 기원: 프롬프트는 주로 중국어로 발행되었으며, 중국과 관련된 지정학적 주제에 초점을 맞추었습니다. 한 사용자는 프롬프트에서 자신이 중국 선전부에서 일한다고 명시했지만, OpenAI는 이 특정 주장에 대한 독립적인 증거가 없다고 밝혔습니다.
  • 작전 활용 사례: 공개 콘텐츠를 넘어, 행위자들은 ChatGPT를 사용해 내부 정책 문서, 공식 공안 문서 스타일의 에세이, 그리고 작전을 관리하기 위해 취한 단계들을 상세히 기술한 성과 리뷰를 초안했습니다.

행동 양식 및 플랫폼 배포

Operation Sneer Review는 "주요" 계정과 보조 계정의 특정 패턴을 활용해 유기적인 참여라는 허위 인상을 만들었습니다.

소셜 미디어 전략

  • 참여 시뮬레이션: 일반적인 패턴은 주요 계정이 초기 콘텐츠를 게시하고, 이후 네트워크 내 다른 계정들이 일련의 답글을 생성해 대화를 시뮬레이션하는 것이었습니다.
  • TikTok: 네트워크는 다양한 언어와 알파벳(예: 한국어, 태국어, 히브리어)으로 된 화면 이름을 사용했으며, 이는 종종 게시된 콘텐츠의 언어와 무관했습니다(예: 한국어 이름을 가진 계정이 우르두어로 게시).
  • X(구 Twitter): 계정들은 일반적으로 만화형 프로필 이미지를 사용했으며, 일부는 암호화폐와 연관된 이름을 사용했습니다.
  • Facebook: 활동은 뉴스 매체를 가장한 두 개의 페이지를 만드는 것으로 제한되었으며, 이 페이지들은 팔로워나 좋아요가 전혀 없었습니다.
  • Reddit 및 웹 포럼: 네트워크는 Reddit에 하나, 다른 웹 포럼에 두 개의 장문 게시물을 생성했습니다.

목표 콘텐츠 및 내러티브

네트워크가 생성한 콘텐츠는 중국의 지정학적 이익에 엄격히 부합했으며, 세 가지 주요 주제에 초점을 맞추었습니다:

대만 및 "Reversed Front"

작전의 이름인 "Sneer Review"는 대만 중심 게임 Reversed Front (逆統戰)를 겨냥한 활동에서 유래했으며, 이 게임은 중국 공산당에 대한 저항을 상상합니다. 네트워크는 수십 개의 비판적 댓글과 게임이 광범위한 반발에 직면했다는 장문 기사를 생성했습니다.

파키스탄 활동가

영어와 우르두어로 된 콘텐츠는 파키스탄 활동가 Mahrang Baloch를 겨냥했으며, 그는 발루치스탄에 대한 중국 투자를 비판해 왔습니다. 네트워크는 TikTok 계정과 Facebook 페이지를 이용해 Baloch가 포르노 영상에 출연했다는 허위 영상을 게시했으며, 수백 개의 생성된 댓글로 참여를 시뮬레이션했습니다.

미국 해외 원조

네트워크는 TikTok과 X에서 미국 국제 개발청(USAID) 폐쇄와 관련된 콘텐츠를 생성했으며, 이 조치를 찬양하거나 비판하는 댓글을 만들었습니다.

영향 평가

OpenAI는 Operation Sneer Review가 차단될 당시 초기 단계에 있었다고 평가합니다. 실제 작전의 도달 범위는 제한적이었으며, Facebook 페이지는 팔로워가 없고 Reddit 게시물은 대부분 차단되거나 삭제되었습니다.

참여 지표

  • TikTok: 두 개의 영상이 합쳐 25,000개의 좋아요를 받았습니다.
  • X: 주요 계정의 트윗은 각각 약 10,000회의 조회수를 기록했습니다.

OpenAI는 많은 댓글이 네트워크 자체에 의해 생성된 것으로, 상당한 비진정성 참여를 나타내므로 이러한 수치는 회의적으로 바라볼 것을 경고합니다. 브루킹스 연구소의 영향 작전 Breakout Scale을 사용해, 참여 수치가 진실이라고 가정할 경우 이 활동을 카테고리 3의 하위 수준으로 평가하지만, 비진정성 참여가 더 많이 입증될 경우 하향 조정될 것이라고 언급했습니다.

SUMMARY: OpenAI는 중국 기원의 은밀한 영향 작전인 Operation Sneer Review가 사용한 ChatGPT 계정을 차단했습니다. 이 작전은 대량의 소셜 미디어 콘텐츠와 중국의 지정학적 이익에 부합하는 내부 성과 리뷰를 생성하기 위해 사용되었습니다.

TITLE: OpenAI, Operation Sneer Review 중국 기원 영향 활동 차단

Sources