OpenAI가 STORM-2035 이란 영향력 활동을 차단

OpenAI는 여러 플랫폼에서 기만적인 정치 콘텐츠를 생성하는 데 사용된 ChatGPT 계정을 차단함으로써 Storm-2035로 식별된 이란 출신 영향력 작전을 차단했습니다. 이 작전은 AI를 활용해 장문 기사와 짧은 형태의 소셜 미디어 참여를 대규모로 생산하여 다양한 정치적 관점을 시뮬레이션하는 사례를 보여줍니다.

Storm-2035의 식별 및 귀속

OpenAI는 조정된 영향력 캠페인을 위해 영어와 스페인어 콘텐츠를 생성하던 일련의 ChatGPT 계정을 식별하고 차단했습니다. 해당 행위자의 활동은 X에서 12개가 넘는 가짜 인물, Instagram의 하나의 계정, 그리고 다섯 개의 별도 웹사이트 등 여러 플랫폼에 걸쳐 연결되었습니다.

귀속은 산업 간 협업을 통해 이루어졌습니다:

• Microsoft는 이전에 해당 행위자와 연관된 일부 웹사이트를 "Storm-2035"라는 이름으로 보고한 바 있습니다.
• Meta는 식별된 Instagram 계정이 2022년 12월에 Meta가 차단한 이란 네트워크와 연결되어 있음을 확인했습니다.

OpenAI가 행위자의 행동을 파악한 덕분에 특정 소셜 미디어 게시 활동과 연관된 웹사이트 간의 최초 연결이 가능했습니다.

운영 워크스트림 및 전술

행위자는 콘텐츠를 배포하고 가짜 인물을 만들기 위해 두 개의 병행 워크스트림을 사용했습니다.

장문 기사 생성

행위자는 OpenAI 모델을 사용해 영어 기사(보통 700~900단어)를 제작했습니다. 이 기사들은 진보 또는 보수로 가장한 다섯 개의 웹사이트에 게시되어 다양한 이념적 청중을 목표로 했습니다. 이 기사들의 주요 초점은 미국이며, 현재 선거 주기의 대통령 및 부통령 후보들을 언급했습니다.

소셜 미디어 참여

이 작전은 AI를 활용해 X와 Instagram에 영어와 스페인어로 짧은 댓글을 생성했습니다. 인물들은 다양한 역할을 채택해 진짜처럼 보이도록 했습니다:

• On X: 계정들은 미국 대통령 선거의 두 주요 후보를 지지하는 당원으로 가장했습니다.
• On Instagram: 한 계정은 스코틀랜드 독립을 지지하는 사람으로 가장했습니다.

이러한 활동을 지원하기 위해 계정들은 기본 조사에 ChatGPT를 사용했으며, 소셜 미디어 참여를 향상시키는 팁을 찾기도 했습니다. 한 사례에서는 사용자가 Microsoft가 이 작전을 폭로한 것이 이란 사이버 작전이 러시아나 중국보다 더 큰 영향을 미쳤다고 주장하는 기사를 생성하려 했지만, OpenAI는 해당 텍스트가 온라인에 게시된 증거를 찾지 못했습니다.

콘텐츠 주제 및 전략

생성된 콘텐츠는 영향력을 행사하기 위해 극도로 양극화된 지정학적·사회적 이슈에 초점을 맞췄습니다. 주요 주제는 다음과 같습니다:

• 글로벌 갈등: 가자 분쟁 및 올림픽 경기에서의 이스라엘 존재.
• 미국 정치: 미국 대통령 선거와 미국 내 라틴계 커뮤니티의 권리.
• 국제 문제: 스코틀랜드 독립과 베네수엘라 정치.

계정들의 신뢰성을 높이고 팔로워를 확보하려는 시도로, 행위자들은 뷰티와 패션에 관한 일반적인 콘텐츠도 생성·게시했습니다. OpenAI의 DALL·E 3 분류기는 이러한 뷰티 게시물에 사용된 이미지가 OpenAI 서비스에서 생성된 것이 아님을 판단했습니다.

영향 및 도달 범위

콘텐츠 생산 규모에도 불구하고, 이 작전은 의미 있는 청중 참여를 얻지 못했습니다. 대부분의 소셜 미디어 게시물은 연관된 계정이 정지되기 전까지 낮은 수준이거나 전혀 참여가 없었으며, 장문 기사들이 소셜 미디어에서 널리 공유되었다는 증거도 없었습니다.