OpenAI가 Operation A2Z 다국어 영향 활동을 방해함

OpenAI는 OpenAI API를 이용해 가짜 소셜 미디어 페르소나를 자동으로 생성·관리하던 다국어 영향 작전 "Operation A2Z"를 차단했습니다. 이 작전은 AI를 활용해 바이오를 생성하고, 게시물을 분석하며, 다국어 답글을 초안하고, 스타일화된 이미지를 제작해 X와 Facebook에서 정치 담론에 영향을 미쳤습니다.

AI 기반 페르소나 관리 및 콘텐츠 생성

Operation A2Z는 AI를 이용해 영향 "킬체인"의 여러 단계를 자동화함으로써 소수의 운영자가 X와 Facebook에서 약 150개의 확인된 계정을 관리할 수 있게 했습니다. AI는 다음과 같은 구체적인 작업에 사용되었습니다:

  • 페르소나 개발: 가짜 계정의 신뢰성을 구축하기 위해 바이오 생성.
  • 콘텐츠 생성: 여러 언어로 짧은 댓글 및 답글 초안 작성.
  • uma 교정: 생성된 텍스트를 더 자연하고 진실되게 다듬기.
  • 참여 분석: 기존 게시물 및 댓글을 분석하여 맞춤형 응답 작성.
  • 시각 콘텐츠: 1930년대 포스터와 유사한 스타일화된 이미지를 제작하여 속이기보다 주목을 끌도록 설계.

이러한 과정을 자동화함으로써, 작전은 대규모 인간 "트롤" 팀이 필요하지 않아 운영 비용을 절감하고 유출 위험을 감소시켰습니다.

목표 주제 및 정치적 내러티브

작전은 다양한 주제에 초점을 맞추었으며, 이는 상업적으로 운영되는 조직일 가능성을 시사하지만, 몇몇 두드러진 정치적 주제가 나타났습니다:

아제르바이잔 지원

가장 빈번한 활동은 아제르바이잔 정부를 찬양하는 것이었습니다. 여기에는 아제르바이잔이 유럽에 에너지 공급자로서의 역할을 홍보하고, 인권 기록을 옹호하며, UN 기후변화 회의를 개최하고 중앙아시아의 통합을 촉진하는 역할을 강조하는 내용이 포함되었습니다.

지역 및 글로벌 안정

  • 아랍에미리트: 일부 계정은 UAE를 안정적인 투자처로 묘사하며, 종종 미국의 정치적 불안정 주장과 대비시켰다.
  • 유럽 및 미국 정치: 작전은 지역에 따라 다양한 이념을 배포했다. 예를 들어, 일부 X 계정은 자유주의자로 가장해 전 미국 대통령 트럼프를 비판했으며, 프랑스어 Facebook 계정은 마크롱 대통령을 비판하고 국민연합(RN) 당을 지지했다.
  • 국제 개입: 일부 콘텐츠는 서방 국가들이 국제 분쟁에 개입하기보다 국내 문제에 집중해야 한다고 주장했으며, 특히 러시아의 우크라이나 침공을 언급했다.

일반 관심 주제

정치 외에도, 작전은 금융 시장, 암호화폐, 생태 문제, AI의 진화, 일반 기술 등에 관한 콘텐츠를 생성했다.

영향 평가 및 취약점

OpenAI는 Breakout Scale을 사용해 Operation A2Z의 영향을 평가했으며, 카테고리 2의 최상위(1~6 척도)로 평가하고 카테고리 3으로 이동할 위험이 있다고 판단했습니다. 이 평가는 작전이 여러 플랫폼에 걸쳐 게시하고 실제 사용자와 대화를 나눌 수 있는 능력에 기반합니다.

참여 지표

높은 활동량에도 불구하고 작전의 도달 범위는 제한적이었다:

  • 팔로워: 확인된 가장 큰 X 계정은 222명의 팔로워를 보유했으며, 대부분은 15~25명 사이였다.
  • 참여: X의 일반 게시물은 한 자릿수의 참여를 받았다. Facebook 게시물 중 가장 많은 반응은 36개였으며, 대부분은 0~5 사이였다.

"AI 취약성" 역설

OpenAI는 AI가 영향 운영자의 역량을 높이는 동시에 중요한 취약성을 만든다고 지적한다. Operation A2Z가 거의 모든 단계에서 AI에 의존했기 때문에, API 접근을 차단하는 것만으로도 킬체인의 여러 연결 고리를 동시에 끊을 수 있었다.

6월 초 차단 이후, 확인된 계정들은 EU, 영국, 프랑스의 주요 선거 기간 동안 게시를 중단했다. 일부는 8월 말에 다른 AI 모델을 사용해 게시를 재개했지만, 원래의 규모와 효율성은 크게 감소했다.

SUMMARY: OpenAI는 API를 이용해 다국어 영향 작전인 Operation A2Z를 수행하던 계정 클러스터를 차단했습니다. 이 작전은 AI를 활용해 가짜 페르소나를 관리하고 X와 Facebook에서 정치 콘텐츠를 생성했습니다.

TITLE: OpenAI가 Operation A2Z 다국어 영향 활동을 방해함

Sources