OpenAI는 AI를 활용한 가짜 전면 영향력 작전을 차단했다
OpenAI는 러시아와 이란에서 기원한 두 가지 정교한 영향력 작전(IO)을 차단했다. 이 작전들은 AI를 사용해 '가짜 전면' 기관을 설립하는 데 사용되었다. 이러한 작전들은 단순한 소셜 미디어 봇 작전을 넘어선 수준으로, 가짜 기자 인물과 위조된 정책 연구소를 만들어 주류 미디어 채널에 지정학적 메시지를 심어냈다.
가짜 전면 작전에서의 AI의 역할
위협 행위자들은 AI를 사용해 기만적 캠페인의 규모, 효율성, 언어 유창성, 편집 품질을 높이고 있다. 기존의 영향력 작전을 대체하는 것이 아니라, AI는 장기적인 기사 작성 작업을 특정 출판 기준에 맞게 다듬거나 내부 성과 보고서를 작성하는 등의 워크플로우를 간소화하는 데 사용된다.
OpenAI는 이러한 작전이 AI 시대 이전의 영향력 캠페인과 유사하지만, AI를 활용해 무지한 편집자와 직원을 속여, 출처의 동기를 알지 못하는 대중 앞에 콘텐츠를 심기 쉽게 만들었다고 지적한다.
작전 "다크 클라크": 라틴 아메리카에서의 러시아 영향력
OpenAI는 라틴 아메리카 국가들을 대상으로 하며, 우크라이나의 명성을 훼손하고 아르헨티나, 볼리비아, 에콰도르의 정치적 결과에 영향을 주려는 러시아 기원 계정 클러스터를 금지했다.
사회 연구 센터(SRC) 전면
이 작전의 가장 복잡한 요소는 라틴 아메리카의 인도계 이민자 집단에 초점을 맞춘 가짜 '연구 플랫폼'인 사회 연구 센터(SRC)를 창설한 점이다. 러시아 운영자들은 가짜 인물인 "미아 클라크"를 통해 SRC를 통제했다.
중요하게도, 이 작전은 라틴 아메리카의 무지한 현지 직원들을 동원하여, 정당한 기관에서 일하고 있다고 믿게 했다. 이러한 직원들은 원본 연구를 제작했고, 러시아 운영자들은 이를 바탕으로 지속 가능한 가짜 정체성을 구축했다. 이는 이전 작전이 주로 표절된 콘텐츠에 의존했던 것과 다르다.
전술적 실행과 영향
운영자들은 주로 ChatGPT를 상사에게 보고하는 내부 보고서 작성에 사용했으며, 가끔 가짜 콘텐츠를 생성하는 데도 활용했다. 주요 활동은 다음과 같다:
- 가짜 사건: 페루의 학교들을 속여 우크라이나와 폴란드 간의 외교적 긴장을 유발할 수 있는 논란의 인물이 등장하는 행사 개최를 유도.
- 가짜 문서 및 오디오: 에콰도르의 우크라이나 총영사의 가짜 오디오와 에콰도르 정부가 시민들을 우크라이나에서 전투에 참여하도록 고용하고 있다는 가짜 계약서를 제작.
- 내부 기만: 팔라우 페르나스/말비나스 제도 분쟁과 같은 기존 정치 논쟁이나 뉴스 이벤트에 대해 자신들이 기여했다는 것을 주장하여, 자신의 고용주에게 효과를 과장하려 시도.
OpenAI는 이 작전이 공식 정부 반박과 정치인들의 공개 발언을 유도할 수 있다는 점에서 브레이크아웃 스케일의 5등급(Category 5) 으로 평가했으며, 이는 OpenAI가 차단한 첫 번째 5등급 작전이다.
작전 "거짓 필명": 이란 영향력 캠페인
OpenAI는 AI를 사용해 온라인 뉴스 매체에 장문의 기사를 위장 필명으로 퍼뜨리는 이란 작전을 차단했다.
기자 인물 전략
이 작전은 "에르빈 B. 호스킨스"와 "소피아 곤잘레스"와 같은 일곱 개의 가짜 서양 기자 인물을 활용해 소규모 및 중규모 온라인 매체에 기사 제안을 했다. 행위자들은 ChatGPT를 사용해:
- 특정 매체의 제출 기준에 맞게 영어 기사 초안을 검토하고 다듬음.
- 편집자에게 보낼 전문적인 제안 이메일 생성.
- 가짜 인물들을 위한 상세한 이력서 작성.
OpenAI는 이 필명 아래 약 100편의 기사가 12개의 출판물에 게재된 것을 확인했으며, 주로 미국과 이란 간의 갈등을 다루며 미국을 공격적인 쪽으로 묘사했다.
소셜 미디어 확산
기사와 함께, 행위자들은 영어와 페르시아어로 작성된 소셜 미디어 댓글을 대량 생성하여 자신의 기사를 칭찬하거나 이란 정권의 비판자들을 공격했다. 그러나 이러한 댓글은 일반적으로 낮은 참여도를 보였다.
영향 평가
OpenAI는 브레이크아웃 스케일을 사용해 분할 평가를 적용했다:
- 기자 인물: 여러 매체에 지속적으로 진출했으며, 일부는 수백만의 팔로워를 보유하고 있어 4등급(Category 4) 으로 평가.
- 소셜 미디어 반응: 참여도가 낮고 대화를 지배할 능력이 부족해 2등급(Category 2) 으로 평가.
영향력 작전의 영향 범위 요약
OpenAI가 지난 2년 반 동안 폭로한 30개의 은밀한 영향력 작전을 분석한 결과, 진정한 미디어 채널에 콘텐츠를 성공적으로 배치한 작전은 단순히 가짜 소셜 미디어 배포에 의존하는 작전보다 훨씬 더 큰 영향력과 도달 범위를 가진다는 명확한 패턴이 드러났다.