작전 Nine—emdash Line: 중국 기원 영향 활동 방해

OpenAI는 중국에서 시작된 은밀한 영향력 작전과 연결된 ChatGPT 계정 네트워크를 차단했습니다. 이 작전은 AI를 사용해 다중 플랫폼 소셜 미디어 콘텐츠를 생성하고 정찰을 수행하여 동남아시아, 홍콩, 미국의 정치 서사를 영향을 미치려 했습니다.

작전 개요 및 목표 서사

네트워크는 남중국해와 서필리핀해에 대한 중국의 영유권 주장을 지원하기 위해 대량의 소셜 미디어 게시물을 생성하는 데 집중했으며, 특히 "Nine-Dash Line" 경계를 언급했습니다. 이 작전이 AI 생성 텍스트에서 em‑dash를 자주 사용했기 때문에 OpenAI는 이 활동을 "Nine—emdash line"이라고 명명했습니다.

주요 목표 서사는 다음과 같습니다:

• 필리핀: 대통령 페르디난드 마르코스를 비판하는 게시물을 생성했으며, 약물 사용 및 선거 조작에 대한 허위 주장을 포함했습니다.
• 베트남: 베트남에 관한 콘텐츠를 만들었으며, 특히 남중국해에서의 환경 영향에 대한 주장에 초점을 맞췄습니다.
• 홍콩: 광동어 게시물을 제작해 민주화 운동가와 지지자들을 깎아내리고, Jimmy Lai, Nathan Law, Agnes Chow와 같은 정치 인물을 비난하면서 홍콩 국가보안법을 지지하는 내용을 담았습니다.
• 미국: 정치 이슈에 관한 영어 콘텐츠를 생성했으며, 펜타닐 위기 등을 포함했습니다.

콘텐츠 및 정찰을 위한 AI 활용

위협 행위자들은 ChatGPT를 단순히 텍스트 생성에만 사용한 것이 아니라, 연구, 전략 기획, 페르소나 개발에도 모델을 활용했습니다.

연구 및 정찰

운영자들은 모델을 사용해 유럽, 미국, 동남아시아 전역의 틈새 블로그, 포럼, 규제가 덜한 소셜 미디어 플랫폼을 식별했습니다. 또한 일반적인 티베트 이름 목록을 요청했으며, 이는 OpenAI가 비진정성 소셜 미디어 페르소나를 만드는 방법으로 식별한 전술입니다. OpenAI는 AI를 연구에 활용함으로써 편의성이 향상되었지만 전통적인 검색 엔진에 비해 행위자의 전반적인 역량을 반드시 향상시킨 것은 아니라고 언급했습니다.

소셜 미디어 성장 전략

새로운 적용 사례로, 네트워크는 성장 전략에 대한 조언을 구했으며, TikTok 챌린지를 시작하는 방법도 포함되었습니다. 구체적으로, 기존 #MyImmigrantStory 해시태그를 활용하려고 모델에 TikTok 게시물 아이디어와 스크립트를 생성하도록 요청했으며, 배경 음악 및 이미지에 대한 추천도 요청했습니다.

기술적 연계 및 출처

소셜 미디어 계정이 "Spamouflage"—오래 지속된 중국 기원 작전—와 행동 양면에서 유사성을 보였지만, OpenAI는 양자 간 직접적인 기술적 연계를 확인하지 못했습니다. 그러나 "Nine—emdash line" 작전에서 사용된 일부 영상은 호주 전략 정책 연구소(Australian Strategic Policy Institute)가 이전 Spamouflage 활동과 유사한 작전의 일부로 이미 식별한 바 있습니다.

영향 평가

OpenAI는 이 작전을 IO 영향 브레이크아웃 스케일에서 카테고리 2로 평가했으며, 이는 여러 플랫폼에서 활동했지만 돌파적 참여가 거의 없거나 전혀 없었음을 의미합니다.

작전의 영향은 여러 요인에 의해 제한되었습니다:

• 낮은 참여: 대부분의 게시물은 참여가 거의 없었으며, 많은 답글이나 재게시가 동일한 제어 네트워크 내 다른 계정에 의해 생성되었습니다.
• 정교함 부족: 페르소나는 프로필 사진에 스톡 이미지나 기본 핸들을 사용했으며, 다른 중국 기원 작전에서 흔히 보이는 조정된 행동 특성을 활용했습니다.
• 외부 탐지: Philstar.com이 독립적으로 네트워크의 일부를 X에서 발견하고 보도했으며, ChatGPT 계정이 차단된 이후에도 계속 운영되었습니다.