OpenAI, 러시아 'Doppelganger' 영향 작전 차단

OpenAI, 러시아 'Doppelganger' 영향 작전 차단

OpenAI는 러시아 영향 작전인 "Doppelganger"와 연관된 네 개의 계정 클러스터를 차단했습니다. 이 행위자들은 OpenAI 모델을 사용해 유럽과 북미 청중에게 영향을 미치기 위해 웹사이트와 소셜 미디어용 다국어 콘텐츠를 생성했으며, 주로 우크라이나 전쟁에 초점을 맞추었습니다.

영향 작전 전술 및 계정 클러스터

OpenAI는 서로 다른 전술, 기술 및 절차(TTP)를 사용하는 네 개의 구별된 계정 클러스터를 식별했으며, 이는 작전이 서로 다른 기능 팀에 의해 관리되었음을 시사합니다.

클러스터 1: 다국어 소셜 미디어 참여

이 클러스터는 영어, 프랑스어, 독일어, 이탈리아어, 폴란드어로 짧은 텍스트 댓글을 생성했습니다. 이러한 댓글은 9GAG와 X(구 Twitter)에 밈 및 동영상과 함께 게시되었습니다.

• 9GAG 활동: 계정은 종종 유명인 또는 고양이 프로필 사진을 사용했으며 다양한 채널(예: "Random", 애완동물, 스포츠, 유머, 데이팅)에 게시했습니다. 지원의 환상을 만들기 위해 세 개에서 다섯 개의 계정이 각 게시물에 "hahaha" 또는 "lol"과 같은 간단한 메시지로 답글을 달았습니다. 이러한 계정은 일반적으로 같은 날짜에 생성되었으며 캠페인 콘텐츠와만 상호작용했습니다.
• X 활동: 계정은 보통 한두 개의 게시물만 작성했습니다. 댓글은 무작위처럼 보이는 링크(예: "solarpanelfor.sale")와 함께 제공되었으며, 이는 Doppelganger에 귀속된 지리 제한 웹사이트로 리디렉션되었습니다. 일부 오류로 인해 영어, 독일어, 폴란드어 기사에 프랑스 IP 주소를 통해서만 접근할 수 있었습니다.
• 회피 전술: OpenAI의 지원 국가 접근 정책을 우회하기 위해, 이 클러스터는 러시아와 체코에 있는 기업과 연결된 서비스를 사용했습니다. OpenAI는 이후 이 서비스의 API 접근을 차단했습니다.

클러스터 2: 번역 및 콘텐츠 생성

이 클러스터는 원본 러시아어 글을 영어와 프랑스어로 번역하는 데 집중했습니다. 이러한 기사들은 rrn.media 웹사이트에 게시되었으며, 이 사이트는 반복적으로 Doppelganger에 귀속됩니다. 클러스터는 또한 이러한 기사들을 홍보하기 위해 짧은 소셜 미디어 댓글을 생성했습니다.

클러스터 3: 프랑스어 콘텐츠 정제

이 클러스터는 franceeteu.today 웹사이트에 게시된 프랑스어 기사들을 생성, 교정 및 수정하는 데 전념했습니다. 이 사이트 역시 Doppelganger에 귀속됩니다.

클러스터 4: 독일어 콘텐츠 생성

이 클러스터는 Doppelganger 웹사이트 grenzezank.com의 콘텐츠를 수집하여 해당 웹사이트 이름을 딴 페이스북 페이지와 그룹에 짧은 게시물을 생성했습니다.

콘텐츠 주제 및 모델 제약

대부분의 콘텐츠는 우크라이나 전쟁에 초점을 맞추었으며, 러시아를 긍정적으로, 미국, NATO, EU를 부정적으로 묘사하도록 설계되었습니다. 일반적인 서사는 다음과 같습니다:

• 러시아는 유럽에 필수적인 경제 파트너이다.
• 서구 지도자들은 유권자들과 동떨어져 있다.
• 우크라이나는 약하고 부패했으며 패배에 가까워지고 있다.

OpenAI는 행위자들이 모델을 사용해 유럽 정치인 및 러시아 비판가들의 만화 이미지를 생성하려 시도했지만, 모델이 이러한 요청을 거부했다고 밝혔습니다.

영향 평가

OpenAI는 식별된 Doppelganger 캠페인이 실제 청중으로부터 실질적인 긍정적 참여를 얻지 못했다고 평가합니다.

• 참여 지표: 9GAG에서는 게시물이 일반적으로 5‑10개의 업보트를 받았으며(대부분 캠페인 연계 계정), 15에서 200개의 다운보트를 받았습니다. X에서는 게시물이 약 1,000개의 공유를 얻었지만 좋아요와 답글이 전혀 없었으며, 이는 비진정성 증폭을 나타냅니다.
• 브레이크아웃 스케일 등급: Brookings Institution의 Breakout Scale(1‑6)을 사용하여 OpenAI는 이 활동을 카테고리 2로 분류합니다. 이는 여러 플랫폼에 걸쳐 게시했지만 실제 청중과의 "브레이크아웃" 또는 의미 있는 참여를 달성하지 못했음을 의미합니다.

SUMMARY: OpenAI는 유럽과 북미를 대상으로 다국어 콘텐츠를 생성하기 위해 AI를 사용한 러시아 'Doppelganger' 영향 작전과 연계된 네 개의 계정 클러스터를 차단했습니다.