AI 기반 사기 및 디지털 기만의 확산

자동화된 기만의 새로운 시대

생성형 AI 도구를 통해 사기꾼들이 전례 없는 수준으로 쉽게 범죄를 확장함에 따라, 인터넷은 저품질의 사기성 콘텐츠로 넘쳐나고 있습니다. 책 크기의 에어컨이나 기적적인 피트니스 프로그램과 같은 불가능한 제품 광고부터 고도로 개인화된 피싱 이메일에 이르기까지, 디지털 환경은 인간의 심리와 주요 광고 플랫폼의 검증 부족을 악용하는 '슬롭(slop)'으로 점점 더 포화 상태가 되고 있습니다.

피싱과 광고 사기의 진화

사기꾼들은 더 이상 일반적인 템플릿에 의존하지 않습니다. AI를 활용하여 공개 정보를 수집함으로써, 공격자들은 이제 저자의 특정 작업이나 전문적인 이력과 관련된 것처럼 보이는 메시지를 작성할 수 있습니다. 이는 피싱 시도를 더욱 위험하게 만드는 정당성의 외피를 형성하며, 특히 '비즈니스 파트너십' 사기나 가짜 마케팅 제안의 표적이 될 수 있는 창작자와 전문가들에게 큰 위협이 됩니다.

광고 측면에서 플랫폼들은 물리 법칙이나 상식을 벗어난 제품 광고를 빈번하게 노출하고 있습니다. 비평가들은 이것이 플랫폼 거버넌스의 체계적인 실패를 의미하며, 광고 수익을 추구하는 것이 홍보되는 제품의 존재 여부나 합법성을 검증해야 할 책임보다 우선시되고 있다고 주장합니다.

플랫폼 책임에 대한 요구

이러한 사기를 걸러내는 부담이 전적으로 사용자에게 있어서는 안 된다는 공감대가 커지고 있습니다. 많은 관찰자들은 다음과 같은 방안을 제시합니다:

• 규제 개입: 광고 산업에 '고객 알기(KYC)' 요구 사항을 도입하면 금융 기관이 위험을 관리하는 방식과 유사하게 플랫폼이 광고 공간을 구매하는 주체를 검증하도록 강제할 수 있습니다.
• 책임 전환: 광고 플랫폼이 호스팅하는 사기성 콘텐츠에 대해 법적, 재정적 책임을 지게 함으로써 검증 프로세스를 개선하도록 유도할 수 있습니다.
• 방어 수단으로서의 광고 차단: 체계적인 변화가 일어나기 전까지 광고 차단기는 사용자가 사기성 광고에 노출되는 것을 피할 수 있는 가장 효과적인 도구로 남아 있습니다. 하지만 이것이 AI 기반 피싱과 사회 공학적 해킹이라는 더 넓은 문제를 해결하지는 못합니다.

'첨 버킷(Chum Bucket)' 경제에 대한 커뮤니티의 시각

사용자들 사이의 논의는 온라인 상호작용의 진실성을 끊임없이 확인해야 하는 피로감을 강조합니다. 일부 커뮤니티 구성원들은 저품질 광고의 범람이 역설적으로 광고 효율성을 떨어뜨렸으며, 이로 인해 플랫폼들이 광고 밀도와 의무 시청 시간을 늘려 이를 보상하려 한다고 지적합니다.

한 댓글 작성자는 현재 인터넷 상태의 아이러니를 다음과 같이 언급했습니다:

"미래에는 부자들 사이에서 진짜 과시는 자신을 모든 슬롭으로부터 격리하기 위해 일하는 사람들을 고용하는 것이 될 것입니다. 그들은 부유한 상사에게 정보가 도달하기 전에 모든 정보를 수동으로 필터링하고, 큐레이션하고, 사실 확인하고, 요약할 것입니다." — @handle

다른 이들은 AI가 사기를 더 정교하게 만들었지만, 디지털 사기의 근본적인 문제는 역사적인 것이라고 지적했습니다. 오늘날의 차이점은 이러한 사기가 배포될 수 있는 속도와 규모에 있으며, 이는 인터넷을 일부 사람들이 묘사하는 것처럼 기만적인 콘텐츠의 '첨 버킷(미끼통)'으로 변모시키고 있습니다.