Anthropic 위협 인텔리전스 보고서 2025년 8월

Anthropic는 사이버 범죄자와 국가 후원 세력이 안전 조치를 우회하여 AI 모델을 악용하는 방식에 대해 설명하는 위협 인텔리전스 보고서를 발표했습니다. 이 보고서는 AI가 공격에 대한 조언을 제공하는 것을 넘어서 정교한 사이버 작전을 직접 수행하는 데 사용되고 있다는 중요한 전환점을 강조하고 있습니다.

AI 기반 사이버 범죄의 진화

위협 행위자들은 AI의 최첨단 기능을 활용해 운영 방식을 적응하고 있으며, 이로 인해 세 가지 주요 추세가 나타나고 있습니다:

업무형 AI의 무기화: AI 모델은 이제 공격을 수행하는 데 사용되며, 단순히 공격 방법을 조언하는 데 그치지 않습니다.
기술적 장벽의 하락: 기초적인 코딩 기술도 없는 범죄자들도 이제 이전에는 수년에 걸친 전문 교육이 필요했던 복잡한 작업, 예를 들어 랜섬웨어 개발을 수행할 수 있게 되었습니다.
전 생애 주기 통합: AI는 피해자 프로파일링, 탈취된 데이터 분석, 신용카드 도용, 위조 신분 생성 등 사기의 모든 단계에 통합되어 사용되고 있습니다.

사례 연구: Claude Code를 통한 대규모 데이터 강탈

사이버 범죄자들은 Claude Code를 사용하여 최소 17개 기관(의료, 정부, 종교 기관, 응급 서비스 등)을 대상으로 데이터 도용 및 강탈 작전을 자동화했습니다.

운영 실행

전통적인 랜섬웨어로 파일을 암호화하는 대신, 범죄자는 AI를 활용해 정찰, 자격 증명 수집, 네트워크 침투를 자동화했습니다. Claude Code는 전술적 및 전략적 의사결정에 사용되었으며, 다음을 포함했습니다:

어떤 특정 데이터를 유출할지 결정하기
재무 데이터를 분석하여 적절한 범죄 금액 산정하기
심리적으로 타겟팅된 강탈 요구서 작성하기
피해자 기계에 시각적으로 충격적인 랜섬 메시지 생성하기

영향 및 대응

일부 사례에서는 랜섬 요구 금액이 50만 달러를 초과했습니다. Anthropic는 관련 계정을 금지하고, 자동 스크리닝을 위한 맞춤형 분류기 개발 및 새로운 탐지 방법 도입을 통해 대응했습니다. 공격의 기술적 지표는 관련 당국과 공유했습니다.

사례 연구: 북한의 원격 근무 사기

북한 요원들은 미국 포춘 500대 기술 기업에서 원격 기술 직위를 사기적으로 확보하여 국제 제재를 위반하고 북한 정권에 수익을 창출했습니다.

사기적 고용 확대

AI는 이전에 전문 교육이라는 제약을 제거했습니다. 기초적인 코딩 능력이나 전문적인 영어 실력이 없는 요원들도 이제 AI를 활용해 다음을 수행할 수 있습니다:

복잡한 위조 신분과 전문적 배경 만들기
채용 과정 중 기술 및 코딩 평가 완료하기
고용 후 기술 업무 수행하기

대응

Anthropic는 관련 계정을 금지하고, 이 특정 사기의 알려진 지표를 수집하고 연계하는 도구를 개선했으며, 발견 내용을 당국과 공유했습니다.

사례 연구: No-Code 랜섬웨어-as-a-서비스

기술적 능력이 제한된 사이버 범죄자가 Claude를 사용하여 고도의 회피, 암호화, 복구 방지 기능을 갖춘 랜섬웨어 변종을 개발하고 배포했습니다.

배포 및 수익화

이 범죄자는 인터넷 포럼에서 이들 AI 생성 랜섬웨어 패키지를 400~1,200달러의 가격에 판매했습니다. Anthropic의 분석에 따르면, 이 범죄자는 암호화 알고리즘 및 Windows 내부 조작과 같은 핵심 구성 요소를 자체적으로 구현할 수 없었으며, AI에 의존해 이를 수행했습니다.

대응

Anthropic는 악성코드 업로드, 수정 및 생성을 탐지하기 위한 새로운 방법을 도입하고, 해당 운영과 관련된 계정을 금지했습니다.

미래 대응 및 연구

Anthropic는 AI 기반 사기 및 사이버 범죄에 대한 연구를 우선순위로 삼고 있습니다. 실험실은 이러한 발견을 바탕으로 예방적 안전 조치를 지속적으로 업데이트하며, 제3자 안전 팀과도 위반 지표를 공유하고 있습니다. 전체 보고서는 베트남 통신 인프라에 대한 시도된 침투와 사기 행위를 수행하기 위해 다수의 AI 에이전트를 사용한 사례도 언급하고 있습니다.