OpenAI 사기 운영 보고서 2025년 10월

OpenAI는 캄보디아, 미얀마, 나이지리아에서 시작된 여러 사기 네트워크를 차단했으며, 이들은 ChatGPT를 활용해 온라인 사기 작전을 확대하고 정교화했습니다. 이들 행위자는 기존 사기 매뉴얼의 효율성을 높이기 위해 AI를 사용했지만, OpenAI는 일반 대중이 사기를 식별하고 피하는 데 ChatGPT를 사기 수행에 사용하는 것보다 최대 3배 더 많이 활용하고 있다고 보고했습니다.

"Ping, Zing, and Sting" 사기 패턴

OpenAI는 차단된 사기 네트워크가 목표 대상을 속이기 위해 일관된 3단계 패턴을 사용한다는 점을 확인했습니다:

  • The Ping (Cold Outreach): 사기꾼들은 AI 생성 또는 수동 콘텐츠를 인터넷과 메신저 서비스 전반에 퍼뜨리며, 종종 소셜 미디어 광고를 이용해 연락을 시작합니다.
  • The Zing (Emotional Manipulation): 대상이 응답하면 사기꾼들은 높은 수익 기회나 금전 손실에 대한 두려움을 조성해 감정을 조작합니다.
  • The Sting (Extraction): 최종 단계에서는 대상에게 금전이나 민감한 개인 정보를 넘겨주도록 설득합니다.

기존 사기 매뉴얼의 확장 도구로서 AI

대부분의 차단된 작전은 새로운 AI 기반 사기 방식을 만들지는 않았으며, 대신 AI를 기존 사기 매뉴얼에 통합해 확장성과 효율성을 향상시켰습니다. ChatGPT의 주요 활용 사례에는 번역, 서신 초안 작성, 소셜 미디어 콘텐츠 제작, 기본 조사 수행 등이 포함됩니다.

투자 사기 운영

캄보디아와 나이지리아에서 시작된 것으로 추정되는 사기 운영은 가짜 투자 회사를 가장했습니다. 이들은 AI를 사용해:

  • 사기성 웹사이트와 온라인 광고를 생성합니다.
  • 거래 전문가를 사칭하는 가짜 소셜 미디어 계정용 콘텐츠를 생성합니다.
  • 피해자를 허구의 거래 플랫폼으로 유인하기 위해 번역 및 서신을 생성합니다.

미얀마에서의 운영 관리

미얀마에서는 OpenAI가 사기 센터를 차단했으며, 이 센터는 ChatGPT를 사기 수단뿐 아니라 내부 비즈니스 운영에도 활용했습니다. 모델은 일정 관리, 내부 공지 초안 작성, 재무 계정 관리, 기숙사 및 책상 배정 등에 사용되었습니다. 일부 운영자는 온라인 사기에 대한 형사 처벌을 모델에 문의하기도 했습니다.

고급 AI 활용 및 페르소나 개발

많은 사기꾼이 단순 작업을 수행했지만, 일부 작전은 설득력 있는 외관을 만들기 위해 AI를 더 복잡하게 활용했습니다.

합성 페르소나와 대화 연속성

캄보디아 기반 작전은 ChatGPT를 이용해 가짜 투자 전문가와 직원들의 상세한 전기를 생성했습니다. 사기꾼은 모델에게 특정 인물의 목소리로 메시지를 작성하도록 지시했으며, 경우에 따라 대상의 실제 메시지를 모델에 제공하고 가짜 페르소나를 유지하면서 대화를 이어가도록 요청했습니다.

조직된 그룹 역학

다른 캄보디아 출신 작전은 대량 SMS를 보내 대상자를 WhatsApp 그룹에 초대했습니다. 그룹에 들어가면 대상자는 여러 계정 간에 조직된 대화를 목격했는데, 여기에는 "투자 전문가"와 다양한 경험 수준의 투자자들이 포함되어 모두 사기꾼이 생성한 것이었습니다. 이러한 대화는 활기찬 거래 커뮤니티를 시뮬레이션하기 위해 중국어를 한 번에 번역한 블록 형태로 제공되었습니다.

타깃팅 및 규정 회피

나이지리아에서 시작된 것으로 추정되는 투자 사기 작전은 ChatGPT에 라틴 아메리카의 부유층을 소셜 미디어 광고로 겨냥하는 단계별 조언, 위치를 숨기는 방법, 플랫폼의 공개 서비스 약관에 맞춰 광고 내용을 검토하도록 요청해 플랫폼 제한을 회피하는 방법 등을 물었습니다.

회피 전술 및 산업 협업

사기 네트워크는 지속적이며 차단 후에도 탐지를 회피하려는 시도를 자주 합니다. OpenAI는 여러 은폐 기법을 관찰했습니다:

  • Stylistic Changes: 일부 캄보디아 기반 운영은 AI 탐지 신호를 피하기 위해 출력에서 em-dash를 제거하도록 모델에 지시했습니다.
  • Fabricated Explanations: WhatsApp이 특정 투자 그룹을 차단한 후, 한 캄보디아 연계 운영은 차단이 경쟁자의 허위 신고 때문이라고 주장하는 메시지를 생성해 대상의 신뢰를 유지했습니다.

OpenAI는 Meta와의 협업을 언급하며, 공유 위협 행위자에 대한 조사와 조치를 시행하기 위한 산업 전반의 정보 공유 중요성을 강조했습니다.

Sources