OpenAI, 중국 연계 영향 작전 "Spamouflage" 차단

OpenAI는 메타가 중국 법 집행 기관과 연계된 인물들에 귀속시킨 중국 기원 영향 작전 "Spamouflage"와 연관된 소수의 계정을 차단했습니다. FBI는 이 작전을 중국 공안부 소속 부대로 보고 있습니다. 이번 조치는 AI 모델을 활용해 중국 디아스포라와 중국 정부 비판자를 대상으로 한 글로벌 영향 캠페인을 지원하던 네트워크를 차단합니다.

행위자 귀속 및 타깃 설정

Spamouflage 네트워크는 전 세계 청중을 대상으로 하였으며, 특히 중국 디아스포라 구성원과 중국 정부 비판자를 중점적으로 겨냥했습니다. 이 작전은 주로 중국어로 콘텐츠를 생성했으며, 영어, 일본어, 한국어로도 일부 출력했습니다.

OpenAI에 따르면, 네트워크 활동은 중국 내 기관에 귀속되었으며, 특히 법 집행 기관 및 공안부와의 연관성이 확인되었습니다.

AI 활용 및 행동 양식

네트워크는 코드 디버깅부터 콘텐츠 생성까지 다양한 기술적·전략적 목적을 위해 OpenAI 모델을 활용했습니다. 확인된 구체적인 행동은 다음과 같습니다:

• Technical Support: 2023년에 네트워크는 revealscum.com 웹사이트의 워드프레스 테마 코드를 디버깅하기 위해 모델을 사용했으며, 이 사이트는 중국 디아스포라 구성원들의 개인 정보와 비판을 게시하는 데 이용되었습니다.
• Content Generation: 이 작전은 기사와 소셜 미디어 댓글을 생성했습니다. 예시로는 후쿠시마 발전소 폐수 방류를 통해 일본이 해양 환경을 훼손했다고 비난하는 기사와, 반체제 인물인 Cai Xia를 비판하는 영어 댓글이 있습니다.
• Open-Source Research: 네트워크는 소셜 미디어 개발자 계정 신청 방법을 조사하고, 중국 정부 비판자들이 작성한 소셜 미디어 게시물을 요약하기 위해 AI를 활용했습니다.
• Operational Support: 일부 운영자는 카메라 렌즈를 조사하거나 중국 공산당 당원을 위한 시험 과제를 수행하는 등 개인적인 목적을 위해 모델을 사용했습니다.

OpenAI는 AI가 생성한 콘텐츠가 네트워크 전체 출력의 소수에 불과하다고 밝혔습니다. 식별된 다수의 계정은 AI 생성 텍스트 사용 전후 모두 비표준적인 영어가 특징인 수동으로 만든 콘텐츠를 더 많이 게시했습니다.

콘텐츠 주제 및 서사

캠페인 콘텐츠는 언어와 대상 청중에 따라 구분되었습니다:

• Chinese Language Content: 주제는 중국 정부의 국제 법 집행 협력을 찬양하고 미국 내 원주민에 대한 학대를 비판하는 내용 등을 포함했습니다. 일부 콘텐츠는 미국 정부와 마이크로소프트가 "Volt Typhoon" 해킹 그룹을 폭로한 것에 대해서도 비판했습니다.
• English Language Content: 이 콘텐츠는 주로 티베트 활동가 Richard Gere와 반체제 인물 Cai Xia 등 중국 정부의 주요 비판자를 겨냥했습니다.
• Multilingual Content: 영어, 일본어, 중국어, 한국어, 러시아어로 된 기사들은 후쿠시마 원자력 발전소 배출을 통해 일본이 태평양 해역을 오염시켰다고 비난했습니다.
• Specific Diplomatic Themes: 활동 클러스터는 중국 공안부 장관의 우즈베키스탄 방문에 대한 긍정적인 댓글에 초점을 맞추었습니다.

영향 평가

네트워크 규모에도 불구하고, OpenAI는 이번 작전의 영향을 낮게 평가했습니다. Breakout Scale의 카테고리 2(1~6 등급) 평가를 적용했을 때, 이 작전은 다수 플랫폼에 걸친 게시 활동이 있었지만 실제 사용자에 의한 큰 확산은 없었습니다.

OpenAI는 식별된 블로그, 기사, 소셜 미디어 계정 중 어느 것도 실제 사람들로부터 높은 참여나 팔로우를 얻지 못했다고 보고했습니다. 경우에 따라 게시물에 대한 조회수는 OpenAI 자체 조사팀에 의한 것뿐이었습니다.