Operation False Witness: OpenAI, AI 기반 복구 사기 차단

OpenAI는 "Operation False Witness"라고 명명된 사기 행위를 차단했습니다. 이 조직은 ChatGPT를 사용하여 미국 법 집행 기관 및 법률 전문가를 사칭하며 사기 피해자들을 표적으로 삼았습니다. 캄보디아에서 시작되어 중국계 범죄 조직과 연관된 것으로 보이는 이 조직은 AI를 활용하여 전문적인 법률 콘텐츠와 기만적인 자격 증명을 생성함으로써 취약한 개인들로부터 금전을 갈취했습니다.

복구 사기의 실행

악의적인 행위자들은 표적을 식별하고, 길들이고, 사기를 치기 위해 Ping, Zing, Sting이라는 3단계 워크플로우를 사용했습니다.

1. 초기 접촉 (Ping)

사기꾼들은 ChatGPT를 사용하여 최소 6개의 허구 법률 사무소에 대한 홍보 콘텐츠를 만들었습니다. 이 콘텐츠는 이전 사기로 인한 재정적 손실을 복구하려는 개인들을 유인하기 위해 소셜 미디어와 온라인 광고를 통해 배포되었습니다. 사기의 징후는 다음과 같습니다:

• 주 변호사 협회 면허 부족.
• 부적절한 웹 도메인 사용.
• 연락처 정보에 기재된 존재하지 않는 거리 주소.
• 메시징 앱을 통해서만 소통하라는 지시.

2. 신뢰 구축 (Zing)

신뢰를 구축하기 위해 행위자들은 ChatGPT를 사용하여 전문 변호사의 어조를 모방했습니다. 그들은 소셜 미디어에서 도용하거나 AI로 생성한 프로필 사진을 사용하여 변호사 페르소나를 만들었습니다. 일부 사례에서는 동일한 변호사 신분이 여러 가짜 법률 사무소에서 재사용되기도 했습니다. 또한 이 조직은 피해자를 속이기 위해 FBI의 인터넷 범죄 신고 센터(IC3)를 사칭하는 웹사이트를 만들었습니다.

3. 금전 갈취 (Sting)

신뢰가 형성되면 사기꾼들은 ChatGPT를 사용하여 선불금을 요구하는 메시지를 작성했습니다. 이러한 사기성 청구 항목은 다음과 같습니다:

• 회수된 것으로 추정되는 자금을 지급하기 전에 요구되는 15%의 "서비스 수수료".
• 계정을 "활성화"하기 위한 보증금.
• 각종 "상담료".

피해자들은 이러한 결제를 암호화폐로 보내고 증거로 거래 스크린샷을 제공하라는 지시를 받았습니다.

사기 워크플로우에서 AI의 역할

ChatGPT는 사기꾼들의 신뢰도를 높이기 위해 운영의 여러 단계에 통합되었습니다.

소통 및 번역

ChatGPT가 가장 빈번하게 사용된 용도는 사기꾼과 개인 메시징 앱상의 표적 간의 메시지를 번역하는 것이었습니다. 구체적으로 행위자들은 전문적인 외관을 유지하기 위해 모델에 "미국식 영어" 또는 변호사 스타일로 답장을 작성하도록 요청했습니다.

기만적인 자료 생성

계정의 일부는 피해자가 외부의 도움을 구하지 못하도록 방해하고 사기의 진위 여부를 강화하기 위해 위조 문서를 생성하는 데 OpenAI 모델을 사용했습니다. 여기에는 다음이 포함됩니다:

• 가짜 변호사 등록 기록.
• 위조된 변호사 협회 회원증 (예: 뉴욕주 변호사 협회).
• 가짜 비밀 유지 계약서.

영향 및 귀속

OpenAI가 총 재정적 손실을 독립적으로 확인할 수는 없지만, 입력 데이터에 따르면 개별 피해자들은 수천 달러의 사기를 당했을 가능성이 있습니다. 이 조직은 이전의 재정적 손실로 인한 정서적 고통을 악용하여 노인을 포함한 취약 계층을 구체적으로 표적으로 삼았습니다.

FBI와 사칭당한 법률 사무소 중 최소 한 곳은 이 특정 사기에 대해 공개 경고를 발표했습니다. OpenAI는 사기나 기망 행위에 자사 도구를 사용하는 것을 엄격히 금지하는 정책에 따라 관련 계정을 차단했습니다.