Anthropic의 AI 기반 사이버 위협 분석 (2025-2026)

Anthropic은 2025년 3월부터 2026년 3월 사이에 악의적인 사이버 활동으로 인해 차단된 832개의 계정을 분석하여 AI가 사이버 공격의 지형을 어떻게 변화시키고 있는지 파악했습니다. 이 연구는 AI가 위협 행위자가 복잡한 침해 후 활동(post-compromise operations)을 수행하고, 전통적인 위험 평가 방식을 우회하는 자율적인 공격 체인을 구성할 수 있게 함으로써 위협 행위자의 위험성을 높이고 있다고 결론지었습니다.

AI는 공격의 초점을 침해 후 활동으로 전환시킵니다

AI는 단순히 초기 접근(initial access)을 넘어 사이버 공격의 후기 단계이자 더 복잡한 단계를 수행하는 데 점점 더 많이 사용되고 있습니다. 분석된 계정 중 67.3%(832개 중 560개)는 악성 코드를 작성하는 데 AI를 사용했지만, 더 적은 비율(6.5% 또는 54명)은 침해된 네트워크 내부를 깊숙이 탐색하기 위한 "침해 후 측면 이동(lateral movement)"에 AI를 활용했습니다.

AI 활용의 주요 트렌드는 다음과 같습니다:

• 위험 수준의 증가: 연구의 첫 6개월 동안 중위험 이상으로 분류된 행위자의 비율이 33%에서 연구의 두 번째 6개월 동안 56%로 증가하여 약 1.7배 증가했습니다.
• 전술적 변화: AI 지원 피싱(초기 접근)은 8.6% 감소한 반면, 계정 탐색(침해된 환경 내부의 유효한 계정을 식별하는 것)을 위한 AI 사용은 8.9% 증가했습니다.
• 기술적 장벽의 완화: AI는 이전에는 깊은 기술적 전문 지식이 필요했던 "침해 후" 기술을 덜 정교한 행위자가 수행할 수 있게 합니다.

전통적 위험 평가의 침식

사용된 기술의 수나 특정 인터페이스(예: Claude Code, API, 또는 chat)와 같은 전통적인 보안 신호는 더 이상 행위자의 위험 수준과 정확하게 상관관계가 없다.

• 기술 볼륨: 기술 숙련도와 기술 수 사이에는 상관관계가 거의 없습니다. 데이터셋에서 가장 숙련도가 낮은 행위자는 평균 16개의 서로 다른 기술을 사용한 반면, 가장 숙련된 행위자는 약 20개를 사용했습니다.
• 인터페이스 독립성: AI와 상호작용하기 위해 사용된 플랫폼은 행위자의 위험 수준과 상관관계가 없습니다.
• 새로운 차별점: 고위험 행위자는 모델 주변에 "스캐폴딩(scaffolding)"을 구축하여, AI가 개별적인 공격 단계를 체인으로 연결하고 최소한의 인간 개입으로 이를 실행할 수 있는 아키텍처를 생성하는 능력으로 구분됩니다.

MITRE ATT&CK 프레임워크의 한계

Anthropic은 MITRE ATT&CK 프레임워크가 현재 AI 기반 공격자가 특히 위험한 이유인 에이전트형 오케스트레이션(agentic orchestration)과 자율적 의사결정을 제대로 포착하지 못하고 있다는 것을 발견했습니다.

예를 들어, 2025년 11월에 차단된 국가 지원 스파이 활동은 악의적인 행위자가 Claude Code를 자율 에이전트로 사용하여 명령을 실행하고, 취약점을 악용하며, 자격 증명을 탈취하는 활동을 포함했습니다. 이 공격은 13개의 전술에 걸쳐 30개의 기술을 사용했는데, 이는 중위험 행위자와 유사한 수준이었지만, Anthropic의 내부 위험 점수 산정 방식에 따르면 그 자율성 때문에 최대 위험 점수인 100점을 부여받았습니다.

방어적 대응 및 미래 프레임워크

Anthropic은 이러한 발견을 내용을 바탕으로 대량의 데이터 유출 및 악성 코드 개발과 같은 활동을 블록(block)하는 위해를 가질 수 있는 가장 강력한 모델에서 사이버 보안 안전장치를 개발하고 있습니다. 또한, 연구소는 AI 기반 행동을 더 잘 통합할 수 있도록 ATT&CK 프레임워크를 발전시키기 위해 MITRE와 협력하고 있습니다. 이러한 노력은 Project Glasswing 및 기타 사이버 보안 이니셔티브의 결과를 공유하여 방어자가 진화화하는 AI 기반 위협에 대해 우선권을 유지할 수 있도록 보장하기 위한 광범위한 연구소의 약속의 일부입니다.