AI 기반 로맨스 스캠에 관한 OpenAI 사례 연구

OpenAI는 사기 조직이 로맨스, 투자 및 작업 기반 사기에 AI를 활용하기 위해 사용하는 반복적인 3단계 워크플로우인 "핑(ping)", "징(zing)", "스팅(sting)"을 식별했습니다. 이 프레임워크는 위협 행위자가 거대 언어 모델(LLM)을 사용하여 피해자를 속이기 위한 접근의 참여도와 설득력을 높이는 방법을 설명합니다.

AI 기반 사기 워크플로우

악의적인 행위자들은 AI를 사용하여 세 가지 뚜렷한 단계에 걸쳐 대상에 대한 심리적 조작을 정교화합니다.

1. 핑(Ping) (초기 접촉)

핑은 대상의 주의를 끌기 위해 설계된 초기 접촉입니다. 위협 행위자는 ChatGPT를 사용하여 기존 사기보다 더 매력적이고 원어민이 아닌 사람의 말투처럼 보이지 않는 메시지를 생성하여 설득력을 높입니다.

• 타겟팅 방법: 배포 방식은 무차별적인 접근부터 정밀 타겟팅까지 다양합니다. 예로는 의료계에 종사하는 40대 미국 남성을 타겟팅하기 위해 골프 관련 소셜 미디어 게시물에 답글을 달거나, 콜드콜 SMS, 가짜 채용 메시지 또는 소셜 미디어 광고를 사용하는 것이 포함됩니다.
• 예시: 2025년 OpenAI가 보고한 "돼지 도축(pig butchering)" 사기에서 "핑"은 초기 유대감을 형성하기 위해 골프와 같은 대상의 특정 관심사에 맞춰 메시지를 조정하는 것을 포함했습니다.

2. 징(Zing) (감정 생성)

징 단계는 대상을 조작하기 쉽게 만들기 위해 강한 감정을 유발하는 데 중점을 둡니다. 사기 유형에 따라 목표는 매력, 흥분 또는 두려움을 조성하는 것입니다.

• 로맨스 스캠: 목표는 대상이 사기꾼에게 로맨틱한 매력을 느끼게 하는 것입니다.
• 투자/작업 사기: 목표는 수익성 있는 거래에 대한 흥분, 놓치는 것에 대한 두려움(FOMO), 또는 주장된 법적 위험이나 미납 청구서에 대한 경각심을 조성하는 것입니다.

3. 스팅(Sting) (금전 갈취)

스팅은 사기꾼이 AI 생성 콘텐츠를 사용하여 대상에게 자금을 이체하도록 설득하는 마지막 단계입니다. 요청에 대한 정당화는 사기 유형에 따라 다릅니다.

• 로맨스 스캠: 요청에는 파트너의 사업에 투자하거나 재정적 위기를 해결하기 위해 돈을 제공하는 것이 포함될 수 있습니다.
• 작업 사기: 대상은 이미 벌었다고 믿는 가상의 수익에 접근하기 위해 돈을 지불해야 한다는 말을 듣습니다.
• 투자 사기: 대상은 존재하지 않는 투자 회사가 관련된 사기 계획의 일부가 됩니다.

배포 네트워크 및 타겟팅

AI가 메시지의 내용을 향상시키지만, 배포 네트워크는 여전히 운영 성공의 중요한 구성 요소입니다. OpenAI는 배포 방법(무차별적이든 타겟팅이든)이 대상을 착취하는 능력에 상당한 영향을 미친다고 지적합니다.

• 배포 채널: 현재 운영은 SMS, 암호화된 메시징 앱, 소셜 미디어 게시물 및 온라인 광고를 사용합니다. 이는 이메일, 전화 통화, 편지 및 전보와 같은 AI 이전 시대의 방법과는 대조적입니다.
• 타겟팅 전략: 일부 운영은 정밀 타겟팅을 사용합니다. 예를 들어, 한 로맨스 스캠은 소셜 미디어 광고를 사용하여 인도네시아의 젊은 남성을 구체적으로 타겟팅했으며, 유명인 사기는 유명인의 팬 그룹을 타겟팅합니다.