OpenAI, 이란 영향 작전 Storm-2035를 차단

OpenAI는 은밀한 이란 영향 작전인 Storm-2035와 연관된 ChatGPT 계정 클러스터를 식별하고 차단했습니다. 이 조치는 2024년 선거 주기 동안 AI가 생성한 콘텐츠를 통해 여론을 조작하고 정치적 결과에 영향을 미치는 것을 방지하기 위해 취해졌습니다.

Storm-2035 작전의 역량 및 전술

Storm-2035는 여러 플랫폼에 걸쳐 콘텐츠를 생성하기 위해 두 가지 주요 작업 흐름에 ChatGPT를 활용했습니다:

• 장문 콘텐츠: 이 작전은 미국 정치와 전 세계 사건에 관한 기사들을 제작했으며, 진보와 보수 양쪽 뉴스 매체인 척하는 다섯 개의 웹사이트에 게시되었습니다.
• 단문 콘텐츠: 이 작전은 영어와 스페인어로 짧은 소셜 미디어 댓글을 생성했습니다. 여기에는 AI 모델에게 다른 사용자가 게시한 기존 댓글을 재작성하도록 요청해 섞어 들어가게 하는 것이 포함되었습니다.

진정성을 가장하기 위해, 행위자들은 패션 및 뷰티와 같은 비정치적 콘텐츠와 정치 메시지를 뒤섞었습니다.

목표 주제 및 지리적 초점

Storm-2035는 정치 스펙트럼 양쪽을 겨냥하여 여러 주요 지정학적·사회적 이슈에 콘텐츠 생성을 집중했습니다:

• 미국 대통령 선거: 진보와 보수 양측 관점에서 후보자에 대한 논평.
• 글로벌 분쟁: 가자 지구 분쟁 및 올림픽에서의 이스라엘 존재.
• 지역 정치: 베네수엘라 정치, 스코틀랜드 독립, 그리고 미국 내 라틴계 커뮤니티 권리(영어와 스페인어 모두로 제작).

영향 평가 및 참여 지표

작전 규모에도 불구하고, 이 활동은 의미 있는 청중 참여를 얻지 못했습니다. Brookings Breakout Scale의 영향 평가(1이 최저, 6이 최고)를 사용해 OpenAI는 이 작전을 카테고리 2의 낮은 쪽으로 분류했습니다. 이는 여러 플랫폼에서 활동이 있었지만 실제 사람들이 콘텐츠를 널리 공유하거나 받아들인 증거가 없음을 의미합니다.

식별된 대부분의 소셜 미디어 게시물은 좋아요, 공유, 댓글이 거의 없거나 전혀 없었으며, 웹 기사 역시 소셜 미디어 플랫폼 전반에 걸쳐 널리 공유되지 않았습니다.

완화 및 산업 협력

OpenAI는 관련 계정을 차단했으며 추가 정책 위반 여부를 지속적으로 모니터링하고 있습니다. 유사 활동을 차단하려는 광범위한 커뮤니티를 지원하기 위해 OpenAI는 정부, 캠페인 및 산업 이해관계자와 위협 정보를 공유했습니다. 이 조사는 Microsoft가 이전에 발표한 정보를 통해 도움을 받았습니다.

OpenAI는 자체 AI 모델을 활용해 악용을 더 잘 탐지하고 이해하고 있으며, 대규모 은밀한 영향 작전을 밝혀내고 완화하기 위해 산업계, 시민사회, 정부와 협력하는 데 전념하고 있다고 밝혔습니다.