OpenAI가 High Five 작전 영향 캠페인을 방해

OpenAI는 필리핀의 상업 마케팅 회사인 Comm&Sense Inc와 연계된 여러 ChatGPT 계정을 정책 위반(AI를 사용해 대량 정치 영향 콘텐츠를 생성)으로 금지했습니다. "High Five"라 명명된 이 작전은 ChatGPT를 사용해 소셜 미디어 트렌드를 분석하고, 영어와 Taglish로 편향된 댓글을 생성하며, 은밀한 작전을 위한 홍보 자료를 만들었습니다.

High Five 작전: 행위자 및 방법론

Comm&Sense Inc는 ChatGPT를 활용해 필리핀 청중을 대상으로 하는 정치 영향 캠페인의 여러 단계를 자동화했습니다. 이 행위자는 모델을 사용해 정치 이벤트(특히 대통령 봉봉 마르코스와 관련된)와 관련된 소셜 미디어 게시물에 대한 콘텐츠 분석을 수행하여 적절한 답변 주제를 결정했습니다.

주제가 설정되면, 행위자는 ChatGPT를 이용해 보통 10단어 이하의 짧은 댓글을 대량으로 생성하고 이를 소셜 미디어 플랫폼에 게시했습니다. 또한 모델을 사용해 PR 피치와 통계 분석을 생성해 현재 및 기존 고객에게 은밀한 영향 작전을 마케팅했습니다.

플랫폼 배포 및 실행

작전은 다음 전략을 사용해 TikTok과 Facebook에 콘텐츠를 배포했습니다:

• TikTok: 이 작전은 2025년 2월 중순에 게시를 시작한 전용 TikTok 채널 5개를 관리했습니다. 이 채널들은 동일한 영상을 다양한 캡션과 함께 게시했으며, 수십 개의 TikTok 계정을 사용해 해당 영상에 AI 생성 댓글을 달았습니다.
• Facebook: AI 생성 댓글이 주류 언론 매체의 뉴스 보도에 대한 답글로 게시되었습니다. OpenAI는 이러한 주류 매체가 작전과 연결되었다는 증거가 없다고 언급했습니다.

콘텐츠 특성 및 메시징

생성된 콘텐츠는 짧고 편향적이며, 주로 대통령 마르코스를 찬양하거나 그의 정책을 강조하고 부통령 사라 두테르테를 비판하는 데 초점을 맞추었습니다. 일부 댓글은 부통령 두테르테를 "프린세스 피오나"라고 언급했는데, 이는 Shrek 영화 시리즈를 참조한 것으로 보입니다. 대부분의 콘텐츠가 정치적이었지만, 소수의 결과물에는 상업 마케팅 자료가 포함되어 있어 해당 회사가 다수의 클라이언트를 대신해 활동하고 있음을 시사합니다.

영향 및 효율성

TikTok과 Facebook에 수천 개의 댓글을 게시했음에도 불구하고, 작전은 유기적 도달 범위가 제한적이었습니다. OpenAI의 조사에 따르면 확인된 댓글 중 어느 것도 한 자릿수 이상의 좋아요, 공유 또는 답글을 받지 못했으며, 대부분은 전혀 받지 못했습니다.

브루킹스 연구소의 Breakout Scale(브레이크아웃 스케일)을 사용해 영향 작전을 측정한 결과, OpenAI는 이 활동을 카테고리 2로 분류했습니다. 이 분류는 활동이 여러 플랫폼에 걸쳐 이루어졌지만, 실제 사람들이 콘텐츠를 널리 공유하거나 참여했다는 증거가 거의 없음을 의미합니다.

계정에 대한 초기 차단 이후, OpenAI는 위협 행위자가 기술적 및 행동적 지표를 기반으로 모델에 복귀하려는 여러 시도를 관찰했습니다.