OpenAI가 가나 선거를 겨냥한 은밀한 영향 작전을 차단

OpenAI는 가나 대통령 선거를 목표로 한 은밀한 영향 작전에 사용된 ChatGPT 계정 클러스터를 차단했습니다. 이 작전은 아랍에미리트와 가나에 사무소를 둔 DigitSol이라는 상업 기업과 연계되어 있었으며, AI가 생성한 콘텐츠를 사용해 부통령 Mahumudu Bawumia를 지원하고 전 대통령 John Mahama를 비판했습니다.

작전 인프라 및 행위자

이 영향 작전은 Empoweringghana[.]com이라는 웹사이트를 중심으로 진행되었으며, 이 사이트는 "Empowering Ghana"라는 청년 이니셔티브를 대표한다고 허위 주장했습니다. 이 웹사이트는 Facebook, Instagram, X, YouTube, TikTok, WhatsApp 전반에 걸친 브랜드 소셜 미디어 계정 네트워크의 허브 역할을 했습니다.

조사 결과, 해당 웹사이트의 연락처 정보가 허위임이 밝혀졌으며, 호주에 있는 거리 주소, 유효하지 않은 전화번호, 그리고 WordPress 플러그인 제공업체 링크가 기재되어 있었습니다. 그럼에도 불구하고 콘텐츠는 전적으로 가나 정치에만 초점을 맞추고 있었습니다.

AI 생성 콘텐츠 및 행동

운영자들은 ChatGPT를 사용해 짧은 네 단어 댓글부터 긴 뉴스 기사까지 다양한 영어 콘텐츠를 생성했습니다. 이 콘텐츠는 다음과 같은 방식으로 네트워크 전반에 배포되었습니다:

• Website Articles: ChatGPT는 Empoweringghana[.]com 사이트용 장문 기사를 제작하는 데 사용되었습니다.
• Social Media Posts: 이 작전은 브랜드화된 "Empowering Ghana" 소셜 미디어 자산을 위한 게시물을 생성했습니다.
• Fake Engagement: 이 작전은 AI를 사용해 부통령 Bawumia의 특정 정책을 찬양하는 약 30개의 짧은 댓글 세트를 생성했습니다. 하나의 소셜 미디어 계정이 Instagram이나 X에서 "Empowering Ghana" 게시물 하나에 대해 30개의 댓글을 모두 달아 광범위한 지지를 가장했습니다.

영향 평가

OpenAI는 이 작전의 영향을 Breakout Scale에서 카테고리 2로 평가했습니다(다수 플랫폼에서 활동했지만 실제 사람들이 콘텐츠를 널리 공유했다는 증거는 없음). 이 평가는 인위적 부풀림의 여러 지표를 기반으로 합니다:

인위적 참여

일부 Instagram 게시물은 30-32개의 댓글이 달린 것으로 보였지만, OpenAI는 경우에 따라 30개의 댓글 모두가 AI 생성이며 단일 계정에 의해 게시된 것을 확인했습니다. 이는 실제 참여가 게시물당 0-2개의 댓글에 불과했을 가능성을 시사합니다.

부풀린 팔로워 수

"Empowering Ghana" Instagram 계정은 약 90만 명의 팔로워를 보유하고 있다고 주장했습니다. 그러나 Instagram 투명성 설정에 따르면 그 팔로워 중 54%(대략 50만 명)가 호주 입법에 초점을 맞춘 특정 계정을 동시에 팔로우하고 있어, 팔로워 수가 인위적으로 부풀려졌을 가능성이 높습니다.

자연 도달

반면 X 계정은 1,535명의 팔로워를, YouTube 채널은 2025년 1월 16일 기준 약 1,500명의 구독자를 보유하고 있었습니다. X에서의 일반적인 참여는 한 자릿수 또는 낮은 두 자릿수였으며, YouTube 동영상은 두 자릿수 또는 낮은 세 자릿수 조회수를 기록했습니다. 이 작전의 콘텐츠가 주류 미디어에 의해 확대되었다는 증거는 발견되지 않았습니다.