OpenAI, AI 지원 작업 사기 네트워크 차단

OpenAI는 캄보디아 기반 네트워크가 AI 기반 번역 및 사회공학을 통해 '작업 사기'를 수행하기 위해 사용한 ChatGPT 계정 클러스터를 차단했습니다.

AI 기반 사회공학 워크플로우

채용 공고: 리크루터 페르소나는 원격 작업을 위한 온라인 포럼에 고액 급여와 최소 노력으로 하루 $300 플러스 보너스와 같은 광고를 게시했습니다.
모집: 멘토 페르소나는 텔레그램, 왓츠앱, SMS와 같은 메신저 앱을 통해 잠재 직원에게 연락했으며, 럭셔리 디자인, 패션, 여행 브랜드를 위해 일한다고 주장했습니다. 할당된 작업은 고객 평점을 높이기 위해 별 5개 리뷰를 제출하는 것이었습니다.

안심: 대상이 회의감을 표시하면 사기꾼은 AI를 사용해 회사의 확립된 평판 때문에 작업이 합법적이라고 주장하는 메시지를 생성했습니다. 경우에 따라 과거에 자신도 사기를 당했었다고 주장해 친밀감을 형성했습니다.
훈련: 관심을 보인 대상은 텔레그램으로 이동해 훈련을 받았습니다. 그들에게는 "훈련 계정"이 제공되어 하루에 25~35개의 리뷰 작업을 수행했으며, 계정은 급격히 증가하는 가짜 수익을 보여주었습니다.
흥분: 이후 대상에게는 더 높은 보너스를 제공하는 "특별" 또는 "궁극" 리뷰 작업이 제안되어 잠재적인 지급액의 가치를 높였습니다.

활성화 수수료: 가짜 수익이 일정 수준에 도달하면 멘토는 대상에게 자금을 인출하려면 "활성화 수수료"를 지불해야 한다고 알렸습니다. 사기꾼은 필요 시 친구나 가족에게 돈을 빌리도록 독촉했습니다.
압박: 대상이 지불을 주저하면 사기꾼은 공격적으로 변해 피해자를 더 효율적인 노동자와 비교하고 누적된 모든 수익을 잃게 될 것이라고 위협했습니다.
변명: 결제 후 사기꾼은 인출을 방지하기 위해 다양한 변명을 제시했으며, 종종 자금을 풀어주기 위해 추가 결제를 요구했습니다.

네트워크는 주로 ChatGPT를 사용해 우르두어와 영어 사이의 짧은 댓글을 번역함으로써 사기꾼과 피해자 간의 소통을 원활히 했습니다. 또한 사기꾼은 AI 모델을 활용해 럭셔리 브랜드를 사칭하는 웹사이트 텍스트를 교정해 사기의 신뢰성을 높였습니다.

통신 플랫폼: 이 운영은 텔레그램을 주요 플랫폼으로 사용했으며, 왓츠앱, SMS 및 다양한 고용 포럼을 보조적으로 활용했습니다.

OpenAI는 메타의 제보를 받아 이 활동을 확인했습니다. 일부 생성된 대화에서는 대상이 매우 회의적이었음을 보여 전체 전환율이 낮을 것으로 추정되지만, 온라인 보고서와 일부 대화에서는 피해자들이 실제로 금전적 손실을 입은 것이 확인되었습니다.

"OpenAI의 정책은 우리 도구의 출력을 사기나 사기에 사용하는 것을 엄격히 금지합니다. 우리는 산업 파트너 및 당국과 협력해 AI가 적대적 행동에 미치는 영향을 이해하고, 우리 서비스를 악용하는 사기 활동을 적극적으로 차단하기 위해 전념하고 있습니다."

OpenAI는 이 차단된 네트워크에 대한 정보를 산업 파트너 및 관련 당국과 공유해 집단 안전을 강화했습니다.