OpenAI, 캄보디아 기반 범죄 사기 작전 차단
OpenAI는 캄보디아에 기반을 둔 범죄 사기 작전을 차단했으며, 이 작전은 투자, 연애, 도박 및 법 집행 기관 사칭 수법을 촉진하기 위해 ChatGPT를 활용했습니다. 이 조치는 다수의 사기 전술을 기회적으로 결합하고 인신매매 및 강제노동과 종종 겹치는 다각화된 범죄 네트워크의 작동 방식을 강조합니다.
다각화된 사기 전술 및 모델 활용
범죄자들은 OpenAI 모델을 사용해 가짜 온라인 인물을 생성하고, 대상에게 메시지를 번역하며, 홍보 콘텐츠를 만들고, 일상 행정 업무를 관리했습니다. 이 네트워크는 단일 사기 유형에 국한되지 않고 다양한 이야기를 결합해 피해자를 속였습니다.
사기 유형 및 실행
이 작전은 여러 개의 구별되지만 겹치는 사기 수법을 사용했습니다:
- 투자 및 연애 사기: 운영자는 데이트 인물을 사용해 신뢰를 구축한 뒤 사기성 암호화폐 및 현물 금 거래 기회를 소개했습니다.
- 도박 사기: 행위자는 온라인 도박 플랫폼의 대표로 가장해 가짜 보너스와 당첨금을 제공했습니다.
- 법 집행 기관 사칭: 사기꾼은 법 집행 기관을 사칭해 피해자에게 허위 범죄에 대한 가상의 벌금을 지불하도록 강요했습니다.
3단계 공격 패턴
OpenAI는 네트워크의 다양한 이야기에 걸쳐 일관된 사기 행동 패턴을 확인했습니다:
- 핑: ChatGPT를 사용해 WhatsApp 및 Telegram에서 대화를 번역·생성하고, 데이트 프로필 자료를 조사하며, 대상을 끌어들이기 위한 소셜 미디어 콘텐츠를 만들었습니다.
- 징: "무위험" 투자를 약속하고, 로맨틱한 언어를 사용하며, 비밀을 요구하는 등 감정적 압박과 신뢰 구축 기법을 적용했습니다.
- 스팅: 피해자에게 활성화 수수료, 보상 또는 벌금을 위해 입금을 지시하고, 결제 증명으로 송금 스크린샷을 요구했습니다.
인신매매 및 강제노동과의 연관성
조사 결과, 네트워크가 AI를 활용한 것이 피해자를 대상으로 한 사기에만 국한되지 않았음이 밝혀졌습니다. 네트워크가 생성한 콘텐츠는 인신매매 및 강제노동에 연루된 것으로 보이며, 이는 동남아시아 조직 범죄에 대한 공개 보고와 일치합니다.
모집 및 관리
행위자는 AI를 사용해 Poipet에서 "채터" 직업에 대한 소셜 미디어 광고를 만들었으며, 비자, 항공편 및 숙소를 약속했습니다. 내부적으로는 네트워크가 ChatGPT를 이용해 직원 부채, 급여 공제, 징계 벌금 및 대출 상환 기록을 유지했습니다.
강요 및 착취
OpenAI는 구금, 탈출 시도 및 사기 작전 내에서 강제 노동을 당한 인물들의 형사 책임에 대한 대화를 관찰했습니다. 이는 사기를 수행하는 이들이 스스로 착취의 피해자일 가능성을 시사합니다.
영향 및 차단 조치
OpenAI는 관련된 ChatGPT 계정을 차단하고, WhatsApp을 포함한 산업 파트너 및 관련 당국과 위협 신호를 공유해 행위자들이 서비스에 다시 접근하는 것을 방지했습니다.
총 금전적 손실은 알 수 없지만, 사기꾼들의 내부 커뮤니케이션에 따르면 이 작전은 수백 명의 대상을 상대로 활동했으며, 일부 피해자는 수천 달러를 잃었습니다.
AI 안전에 대한 전략적 함의
이 사례는 AI 기반 범죄 환경에서 두 가지 중요한 추세를 보여줍니다:
- 다각화: 조직된 사기 네트워크는 매우 다각화되어 동시에 여러 사기 수법을 운영할 수 있습니다.
- 상호연결성: 온라인 사기, 조직 범죄 및 인신매매 사이의 경계가 흐려져 있습니다. 효과적인 차단을 위해서는 개별 사기 활동이 아니라 이를 조직하는 범죄 조직을 목표로 해야 합니다.