OpenAI, 르완다 선거 정치 댓글 네트워크를 차단

OpenAI는 르완다에서 시작된 ChatGPT 계정 세트를 차단했으며, 이 계정들은 국가 선거 전 파벌성 트윗을 생성하는 데 사용되었습니다. 이번 차단으로 AI가 생성한 콘텐츠를 이용해 정치 메시지를 자동화하고 소셜 미디어 트렌드를 조작하려는 시도가 방지되었습니다.

네트워크 행위자 및 출처

OpenAI는 르완다 개인과 연결된 계정을 식별하고 차단했습니다. 이 조사는 클렘슨 대학교 연구원들이 발표한 보고서를 계기로 시작되었습니다.

운영 행동 및 전술

이 네트워크는 X에 배포하기 위해 해시태그를 포함한 짧은 댓글을 대량으로 생성하는 데 집중했습니다. 이 운영은 여러 주요 행동을 보였습니다:

• 고량 게시: 일부 계정은 시간당 수백 개의 트윗을 게시했습니다.
• 조정: 동일한 트윗이 여러 다른 계정에 의해 동시에 자주 게시되었습니다.
• 지속성: 초기 차단 후, OpenAI는 유사한 콘텐츠를 계속 생성하는 새로 만든 계정을 식별하고 차단했습니다.

콘텐츠 전략 및 언어 패턴

이 운영은 "주제와 변형" 접근 방식을 사용하여 콘텐츠를 생성했으며, 르완다 애국 전선(RPF) 당이 국가에 가져온 혜택에 초점을 맞추었습니다.

주요 지표

• 해시태그: 네트워크는 주로 #RPFOnTop, #PKNiWowe, #ToraKagame24 해시태그를 사용했습니다.
• 다국어 지원: 대부분의 댓글은 영어였지만, 네트워크는 프랑스어와 키냐르완다어로도 콘텐츠를 제작했습니다.
• 패턴 인식: 네트워크가 특정 주제에 대해 대량의 댓글을 생성했기 때문에, 게시물은 유사한 어휘와 구조를 보였습니다. OpenAI는 특정 주제에 대한 짧은 텍스트에서는 사용 가능한 동의어와 구조가 제한적이므로, 대량 AI 생성이 종종 "가족 유사성"을 만들어 활동을 드러낸다고 언급했습니다.

영향 평가

수천 개의 트윗을 게시했음에도 불구하고, 네트워크의 실제 참여도는 미미했습니다. 대부분의 게시물은 한 자릿수의 답글, 좋아요 또는 공유만 받았으며, 많은 경우 전혀 받지 못했습니다.

OpenAI는 이러한 대규모와 저참여의 조합을 댓글 스팸 네트워크의 전형으로 규정합니다. 주요 목표는 르완다 X에서 특정 해시태그를 트렌드에 올려 네트워크 계정을 팔로우하지 않는 사용자에게 도달하는 것이었던 것으로 보입니다. 일부 홍보된 해시태그는 르완다 X의 상위 10개 트렌드에 진입했지만, 해당 해시태그를 사용한 계정은 네트워크 계정만이 아니었습니다.