Operation Date Bait: OpenAI, AI 기반 로맨스 스캠 네트워크 차단

OpenAI는 'Date Bait(데이트 미끼)' 작전으로 알려진 반자동 로맨스 및 작업 스캠 네트워크를 차단하기 위해 ChatGPT 계정 클러스터와 API 고객 한 곳을 정지시켰습니다. 이 작전은 캄보디아에서 시작된 것으로 보이며, 중국이 주도하는 기존 범죄 스캠 운영과 연계되어 매달 수백 명의 피해자를 발생시켰습니다.

스캠 워크플로우 및 AI 통합

이 네트워크는 콜드 아웃리치 영업 프로그램과 유사한 구조화된 3단계 퍼널을 운영했으며, ChatGPT와 API 액세스를 활용하여 기만적인 활동을 확장했습니다.

1. 핑(The Ping): 리드 생성

사기꾼들은 ChatGPT를 사용하여 'Klub Romantis'라는 가짜 고급 데이트 및 에스코트 서비스 홍보 문구를 생성했습니다. 이 광고들은 럭셔리 라이프스타일에 관심이 있는 인도네시아 남성들을 타겟으로 했으며(‘골프’, ‘요트’, ‘파인 다이닝’ 등의 키워드 사용), 유료 소셜 미디어 광고로 게시되었습니다. 이 광고들은 추적 URL과 프로모션 코드를 통해 텔레그램으로 대상을 유도하는 유혹적인 접수원 역할을 하는 AI 챗봇으로 연결되었습니다.

2. 징(The Zing): 신뢰 구축 및 작업 부여

텔레그램으로 유입된 후, 이 작전은 인간 운영자와 API 기반 자동화를 결합했습니다.

• 페르소나 개발: 접수원 페르소나는 점점 더 로맨틱하고 성적으로 노골적인 언어를 사용하여 대상을 'LoveCode' 및 'SexAction'이라는 가짜 데이트 플랫폼에 가입하도록 유인했습니다.

• 사회적 증거: 플랫폼은 가상의 고객이 상품을 받거나 '미션'을 완료했다는 AI 생성 공지를 표시하여 거짓된 정당성을 부여했습니다.

• 멘토: 대화는 ChatGPT를 사용하여 감정적으로 조작하는 메시지를 생성하고 번역하는 '멘토'에게 넘어갔습니다. 피해자들은 VIP 카드 구매나 호텔 보증금 지불과 같은 가상의 이유로 은행 송금이나 디지털 지갑을 통해 점점 더 큰 금액을 지불하도록 압박받았습니다.

3. 스팅(The Sting): 최종 탈취

마지막 단계에서 사기꾼들은 '킬(kill)'이라고 불리는 최종 거액 결제를 시도했습니다. 여기에는 '인증 보증금'이나 '보상 합의금'과 같은 추가 수수료를 만들어내는 과정이 포함되었습니다. 가능한 최대 금액을 탈취한 후, 피해자들은 텔레그램에서 차단되었습니다.

운영 지원 및 비즈니스 관리

직접적인 피해자 상호작용 외에도, 이 네트워크는 범죄 기업을 관리하기 위해 OpenAI 모델을 사용했습니다.

• 기술 지원: OpenAI API 통합 및 가짜 데이트 웹사이트 업데이트에 대한 지침을 얻기 위해 ChatGPT 사용.
• 재무 분석: 재무 계정을 분석하고 일일 보고서 생성.
• 성과 추적: '리드 생성', '접수 팀', '관리자 팀'과 같은 부서 전반의 성과 추적.
• 내부 커뮤니케이션: 중국어를 사용하는 관리자와 인도네시아어를 사용하는 작업자 간의 메시지 번역.
• 타겟 가치 평가: 각 피해자에게 최종 단계에서 탈취할 예상 금액을 나타내는 '킬' 가치를 할당하는 보고서 생성.

영향 및 집행

사기꾼들의 자체 입력에 따르면, 이 네트워크는 수백 명의 대상과 동시에 상호작용하며 매일 수천 달러를 벌어들였을 가능성이 있습니다. OpenAI는 이러한 주장을 독립적으로 검증할 수는 없다고 밝혔습니다.

OpenAI의 정책은 사기나 스캠을 위해 자사 도구를 사용하는 것을 엄격히 금지합니다. OpenAI는 자사 서비스를 악용하는 적대적 행위를 차단하기 위해 업계 동료 및 당국과 협력하겠다는 의지를 표명했습니다.