OpenAI, STORM-2035 재범 영향 작전을 차단

작전 메커니즘 및 행위자 행동

STORM-2035는 페르시아어로 작성된 프롬프트를 기반으로 ChatGPT를 사용해 소량의 트윗—보통 한 번에 약 열두 개—을 생성했습니다. 행위자는 영어 또는 스페인어로 된 출력을 요청했으며, 이는 미국, 영국, 아일랜드, 베네수엘라 거주자로 가장한 계정에 의해 게시되었습니다.

가짜 계정의 주요 특징은 다음과 같습니다:

  • Account Activity: 계정은 이 작전에서 생성된 콘텐츠만을 게시했습니다.
  • Follower Metrics: 각 계정은 팔로워보다 훨씬 많은 사용자를 팔로우했습니다.
  • Visual Identity: 많은 프로필이 얼굴이 전화기나 기타 물건으로 가려진 젊은 여성 사진을 사용했으며, 일부 이미지는 Pinterest에서 복사된 것으로 보였습니다.

지난 8월에 이 행위자를 처음 차단했을 때와 비교해, 재범 운영자들은 작업 흐름을 분리하려는 전략 전환을 보였습니다. 원래 활동은 X, Instagram 및 다양한 웹사이트에 걸쳐 있었지만, 이번 재범 활동은 오직 X에만 국한되었습니다.

콘텐츠 주제 및 대상 인구통계

이 작전은 지정학적 및 사회적 주제 전반에 걸쳐 콘텐츠를 생성했으며, 언어별로 특정 대상 지역에 맞추었습니다:

  • Latino Rights: 스페인어 댓글로 미국을 대상으로 포용성을 강조하고 배제 정치와 특정 정치인을 비판했습니다.
  • Iran's Military Prowess: 스페인어 댓글로 이란 군사력을 미국이 협상하도록 강요하는 촉매제로 묘사했습니다.
  • Venezuela and Cuba: 스페인어 댓글로 쿠바의 의료 수출과 미국의 군사 수출을 대조하고 니콜라스 마두로 대통령을 논의했습니다.
  • Scottish Independence and UK Criticism: 영문 댓글로 영국을 대상으로 했습니다.
  • Irish Reunification: 영문 댓글로 아일랜드를 대상으로 했습니다.
  • Palestinian Rights: 영문 및 스페인어로 생성된 댓글입니다.

OpenAI는 일반적으로 스코틀랜드(영어)에 초점을 맞춘 계정이 팔레스타인 권리에 관한 스페인어 게시물로 전환한 잠재적 운영자 오류 사례를 하나 확인했습니다.

영향 평가

이 영향 작전은 도달 범위와 참여도가 매우 낮았습니다. STORM-2035가 생성한 일반 트윗은 조회수가 150~350회였으며, 좋아요, 공유, 댓글은 전혀 없었습니다.

OpenAI는 실제 사용자가 해당 콘텐츠를 확대했다는 증거를 찾지 못했습니다. 브루킹스 연구소의 Breakout Scale을 사용해 영향 작전을 측정한 결과, OpenAI는 이 활동을 Category 1(한 플랫폼에 국한되고 실제 사람들이 콘텐츠를 받아들이거나 널리 공유한 증거가 거의 없는 활동)으로 분류했습니다.

Sources