OpenAI, ChatGPT를 활용해 이란 영향력 네트워크를 차단

OpenAI는 이란과 연계된 영향력 작전에서 선전 및 기만적 콘텐츠를 생성하는 데 사용된 다섯 개의 ChatGPT 계정을 식별하고 차단했습니다. 이 발견은 두 개의 별도 영향력 네트워크인 STORM-2035와 IUVM 사이에 운영자 수준에서 이전에 보고되지 않았던 연계가 존재함을 밝혀냈기 때문에 중요합니다.

STORM-2035와 IUVM 간의 운영 연계

OpenAI는 단일 ChatGPT 계정이 STORM-2035와 IUVM 모두를 위한 콘텐츠를 생성하는 데 사용된 것을 발견했습니다. 활동 규모는 작았지만, 이러한 겹침은 두 기관 간에 이전 공개 연구에서 보고되지 않았던 공동 운영 관계가 있음을 시사합니다.

다중 플랫폼 및 다국어 콘텐츠 생성

식별된 계정들은 다양한 웹사이트와 소셜 미디어 플랫폼을 위해 여러 언어로 콘텐츠를 생산하는 데 사용되었습니다:

• STORM-2035 활동: 다섯 개 계정 중 네 개가 STORM-2035와 연결된 엔터티를 위해 콘텐츠를 생성했습니다. 여기에는 al-sarira[.]com용 장문 기사와 lalinearoja[.]net용 스페인어 기사 등이 포함됩니다.

• 소셜 미디어 통합: 두 계정은 al-Sarira X 계정과 다른 두 X 계정을 위해 트윗을 생성했습니다.

• IUVM 통합: 한 계정은 critiquepolitique[.]com(STORM-2035와 연계)용 프랑스어 텍스트와 iuvmpress[.]co(IUVM과 연계)용 영어 기사를 생성했습니다.

회피 전술 및 콘텐츠 주제

운영자는 탐지를 회피하고 캠페인의 내러티브 일관성을 유지하기 위해 특정 기술을 활용했습니다:

• 의미 재작성: 한 사례에서 운영자는 OpenAI 모델을 사용해 기사를 생성한 뒤 게시 전에 다시 표현했습니다. 의미 유사도 분석 결과, 게시된 버전이 AI가 생성한 텍스트를 고도로 재작성한 것으로 확인되어, 탐지를 회피하려는 의도적인 시도로 보입니다.

• 내러티브 초점: 콘텐츠는 주로 팔레스타인, 하마스, 이란을 지지하고 이스라엘과 미국에 반대하는 내용이었습니다. 시리아에서 바샤르 알-아사드 정권이 붕괴되는 동안, 이 작전은 아사드를 찬양하고 그의 인기도 부족을 부인하는 콘텐츠를 생산했습니다.

• 운영자 프로필: 일부 차단된 계정은 영어와 스페인어를 외국어로 가르치는 자료를 만드는 데에도 사용되었습니다. OpenAI는 이는 언어 교육 배경을 가진 개인에게 이란 위협 활동이 이전에 공개적으로 귀속된 것과 일치한다고 언급했습니다.

영향 평가

AI를 사용했음에도 불구하고, 이 작전은 큰 반향을 얻지 못했습니다. 브루킹스 연구소의 Breakout Scale을 적용해 OpenAI는 이 활동을 카테고리 2의 하위 수준으로 평가했습니다. 이 등급은 활동이 여러 플랫폼에 걸쳐 이루어졌지만, 실제 사람들이 콘텐츠를 널리 공유하거나 참여했다는 증거가 없음을 의미합니다.

2025년 1월 16일 현재, al-Sarira X 계정은 팔로워가 157명에 불과했으며 일반 트윗의 참여도는 한 자릿수 수준에 머물렀습니다.