OpenAI, VAGue Focus 작전 영향 활동을 차단

OpenAI는 소셜 미디어 콘텐츠를 생성하고, 메시지를 번역하며, 사회공학 시도를 수행하기 위해 사용된 ChatGPT 계정 네트워크인 "Operation VAGue Focus"를 차단했습니다. 이 작전은 AI를 활용해 유럽 또는 터키 전문가를 가장한 페르소나를 만들어 정보 수집 및 온라인 담론에 영향을 미쳤습니다.

위협 행위자 프로필 및 귀속

OpenAI는 주로 중국 본토 영업시간에 활동하고 모델에 중국어 프롬프트를 입력한 소규모 ChatGPT 계정 네트워크를 확인했습니다. 이 행위자들은 모델을 이용해 정보 수집 및 분석을 지원하는 전면 조직을 만들었습니다.

이 활동을 위장하기 위해 세 개의 주요 실체가 사용되었습니다:

• Focus Lens News: 독립적인 유럽 기반 분석 및 보도 기관으로 설명되었습니다.
• BrightWave Media Europe: 지정학적 초점을 둔 전면 조직.
• Visionary Advisory Group (VAG): 터키에 위치한 것으로 주장되는 지정학 컨설팅 서비스.

운영 워크스트림

Operation VAGue Focus는 은밀한 활동을 지원하기 위해 네 가지 주요 기능 영역에서 ChatGPT를 활용했습니다:

1. 은밀한 영향 및 페르소나 생성

행위자들은 모델을 사용해 소셜 미디어 게시물과 온라인 페르소나의 전기를 생성했습니다. 이 페르소나들은 X(구 Twitter)에서 기자 및 지정학 분석가를 가장해 콘텐츠를 배포하고 신뢰성을 구축했습니다.

2. 정치 서신

이 계정들은 행정부 관료 지명과 관련해 미국 상원의원에게 보내는 서신을 다듬고 번역하는 데 사용되었습니다. OpenAI는 이 서신이 실제로 발송되었는지 독자적으로 확인할 수 없다고 밝혔습니다.

3. 사이버 도구 문의

행위자들은 컴퓨터 네트워크 공격 및 악용 도구에 대한 기본 정보를 모델에 문의했습니다. OpenAI는 모델이 일반적인 설명만 제공했으며, 행위자들의 질문이 정교함이 부족해 사이버 작전 분야의 기술 전문성이 낮음을 시사한다고 보고했습니다.

4. 사회공학 및 정보 추출

ChatGPT는 알려지지 않은 대상과 교류하고 정보를 추출하기 위해 중국어를 영어로 번역하는 데 사용되었습니다. 여기에는 다음이 포함되었습니다:

• 소셜 미디어에서 연구원 및 기자에게 공개 답변.
• 개인적인 접근을 위한 직접 메시지.
• 미국 경제 및 금융 정책에 관한 인터뷰에 대한 보상 제안(시간당 최대 $2,000).
• 기밀 문서에 대한 구매 제안.

기술 지표 및 정보 수집

이 작전의 정보 수집 노력은 유럽 또는 터키의 전문가를 가장하는 데 초점을 맞추었습니다. Visionary Advisory Group (VAG) 웹사이트는 터키어와 영어 버전을 제공했지만, 기술적인 실수로 행위자의 출신이 드러났습니다: 영어 버전 메뉴에 "contact us"(聯絡)라는 중국어 문자가 표시되어 전체 도메인에서 유일한 중국어 텍스트가 되었습니다.

또한 행위자들은 이 작전이 머신러닝, 자연어 처리 및 자동 데이터 스크래핑을 활용해 영향력 있는 소셜 미디어 목소리와 주제를 식별했다고 주장했지만, OpenAI는 이를 독자적으로 검증할 수 없었습니다.

영향 평가

OpenAI는 이 작전의 공개 부분이 낮은 영향을 미친다고 평가합니다. 브루킹스 연구소의 영향 작전 Breakout Scale를 사용해, 이 활동은 Category 2 (Low End) 로 분류되며, 이는 여러 플랫폼에서 활동이 있었지만 실제 사람들이 콘텐츠를 널리 공유하거나 참여했다는 증거가 거의 없음을 의미합니다.

대부분의 연관 소셜 미디어 계정은 의미 있는 진정한 참여를 얻지 못했습니다. Focus Lens News와 연관된 한 계정은 17,000명의 팔로워를 보유했지만, OpenAI는 이 계정이 2014년에 생성된 뒤 10년간 침묵했으며 2024년 중반에 다시 활성화된 것으로 보아 해킹당해 재활용된 가능성이 높다고 언급했습니다.