OpenAI, Operation Uncle Spam 영향 활동 차단

OpenAI는 "Operation Uncle Spam"으로 알려진 중국 기원 영향 작전과 연결된 일련의 ChatGPT 계정을 차단했습니다. 이 작전은 AI를 사용해 미국 정치 담론을 목표로 양극화된 소셜 미디어 콘텐츠를 생성하여 단일 이념을 홍보하기보다 기존 분열을 이용했습니다.

AI 기반 콘텐츠 생성 및 증폭

Operation Uncle Spam은 OpenAI의 모델을 활용해 소셜 미디어 댓글을 생성하고 계산된 증폭 전략을 사용했습니다. 이 네트워크는 주로 관세와 같은 분열을 일으키는 주제에 집중했으며, 동일한 운영 세션 내에서 해당 이슈를 지지하거나 비판하는 콘텐츠를 생산했습니다.

메시지의 영향을 극대화하기 위해 위협 행위자는 모델에 최적의 게시 시간을 요청하여 청중 참여를 높였습니다. 이는 X와 Bluesky와 같은 플랫폼에서 양극화된 콘텐츠를 증폭시키는 계산된 접근 방식을 나타냅니다.

페르소나 생성 및 시각적 정체성

이 작전은 AI 이미지 생성을 이용해 허구의 페르소나를 위한 스타일화된 로고와 프로필 사진을 만들었습니다. 주요 초점은 현재 미국 행정부를 비판하는 미국 베테랑으로 보이는 페르소나를 제작하는 것이었으며, 여기에는 "Veterans for Justice"와 같은 단체의 로고 제작도 포함되었습니다.

데이터 추출 및 사용자 분석

위협 행위자는 X와 Bluesky에서 사용자 프로필 및 팔로워 목록을 포함한 개인 데이터를 추출하기 위한 코드와 방법을 지속적으로 요청했습니다. 이를 위해 Tweepy, Nitter, Bluesky 공개 API와 같은 도구를 활용했습니다.

추출을 넘어, 해당 계정들은 OpenAI의 모델을 사용해 프로필 데이터를 분석하고 개인 특성 및 조직 소속을 식별하는 방법에 대한 지침을 받았습니다. 이는 작전이 개인을 분류하거나 연관성 및 속성을 추론할 수 있게 했을 가능성이 있습니다.

영향 평가

영향 작전(IO)을 위한 Breakout Scale을 사용하여 OpenAI는 Operation Uncle Spam을 카테고리 2로 평가합니다. 이 분류는 여러 플랫폼에서 활동이 이루어지지만 돌파구나 진정한 참여가 거의 없거나 전혀 없음을 나타냅니다.

일부 계정이 수천 명의 팔로워를 보유하고 있음에도 불구하고, OpenAI 모델이 생성한 콘텐츠는 거의 좋아요나 리포스트를 받지 못했습니다. 팔로워 수는 게시물에 대한 진정한 참여로 이어지지 않았습니다.