OpenAI, Bet Bot 도박 스팸 네트워크 차단

OpenAI는 API를 사용해 X(구 Twitter)에서 도박 사이트를 홍보하기 위해 대화를 자동 생성한 계정 네트워크를 차단했습니다. "Bet Bot"이라고 불리는 이 작업은 이스라엘 기반 스타트업을 활용해 OpenAI 모델에 접근하여 가짜 페르소나를 관리하고 다이렉트 메시지를 통해 스팸 링크를 배포했습니다.

페르소나 관리 및 소셜 미디어 자동화

Bet Bot은 OpenAI 모델을 사용해 가짜 소셜 미디어 페르소나 네트워크를 생성하고 유지했습니다. 이 계정들은 스포츠 테마 배너와 바이오를 특징으로 했으며, 일부는 맨체스터와 리버풀 같은 영국 축구 허브에 기반을 두었다고 주장했습니다. 대부분의 계정은 2023년 12월 또는 2024년 6월에 생성되었습니다.

가짜 페르소나의 기술적 지표는 다음과 같습니다:

• AI-Generated Imagery: 프로필 사진은 왜곡된 문자로 보아 AI가 생성했을 가능성이 높으며, 경우에 따라 동일한 AI 생성 이미지를 여러 계정에서 재사용했습니다.
• Artificial Inflation: 계정은 일반적으로 팔로워 수가 매우 적었으며(한 자릿수 또는 낮은 두 자릿수), 동일 네트워크 내 다른 계정을 팔로우함으로써 인위적으로 증가시켰습니다.
• Improbable Naming: 일부 계정은 "KobeBryantJohnson"와 같이 의심스러운 이름을 사용했습니다.
• Content Strategy: 모델을 활용해 바이오를 생성하고, 팔로우할 계정을 조사하며, 기존 게시물과 댓글을 분석하고, 영어 답변을 초안했습니다.

콘텐츠 생성 및 배포 전술

이 작업은 콘텐츠 생성을 위해 공개 참여와 개인 메시징이라는 두 가지 접근 방식을 사용했습니다.

공개 참여

가짜 페르소나는 X에 공개 댓글을 게시했으며, 일반적으로 이미 여러 사람이 참여한 짧은 대화를 목표로 했습니다. 콘텐츠는 주로 스포츠(축구, 야구, 농구, 소프트볼, 미식축구, 하키)에 초점을 맞추었고, 때때로 미국 또는 영국 정치도 언급했습니다. 정치 게시물은 일관된 이념을 따르지 않았으며 특정 후보나 정당을 지지하지 않았습니다.

다이렉트 메시징(DM) 스팸

공개 게시물이 가짜 페르소나의 위장 수단으로 활용되는 동안, 주요 목표는 도박 링크를 배포하는 것이었습니다. 작업은 도박을 지속적으로 언급하고 단축 URL(예: bit[.]ly)을 포함한 다이렉트 메시지용 콘텐츠를 생성했습니다. OpenAI는 DM이 비공개이지만, 프롬프트 데이터에 따르면 실제 사용자와 여러 차례 교환되는 대화가 일부 발생했으며, 일부 사용자는 도박 링크에 대해 회의감을 표시했다고 밝혔습니다.

영향 평가 및 브레이크아웃 스케일

OpenAI는 Bet Bot이 정치적 영향 작업이 아니라 상업적 스팸 네트워크라고 평가했습니다. 낮은 팔로워 수로 제한된 도달 범위에도 불구하고, 이 작업은 실제 사람들과 다이렉트 메시지를 통해 교류할 수 있게 하는 특정 전술, 기술 및 절차(TTPs)를 보여주었습니다.

브레이크아웃 스케일을 사용해 OpenAI는 이 활동을 Category 2로 분류했으며, 이는 활동이 하나의 플랫폼(X)에 국한되었지만 일부 실제 사용자가 콘텐츠와 상호작용한 증거가 있음을 의미합니다.