앤트로픽과 PNNL의 AI 핵심 인프라 방어 연구

앤트로픽과 태평양 북서부 국립연구소(PNNL)는 인공지능(AI)이 핵심 인프라의 취약점을 식별하는 데 크게 기여할 수 있음을 입증했다. 이 기술은 공격자 시뮬레이션에 소요되는 시간을 수주에서 단 3시간으로 단축시켰다. 이 개념 증명은 AI 기반 레드팀 활동이 공격자에 의해 악용되기 전에 필수 시스템(예: 물 처리 공장)의 보안 격차를 메울 수 있음을 보여준다.

AI로 공격자 시뮬레이션 가속화

AI 모델은 특정 위협 행위자나 공격을 네트워크에 대해 시뮬레이션하는 작업인 공격자 시뮬레이션을 자동화하는 데 사용될 수 있다. 방어 조치를 시행한 후 공격을 재시뮬레이션함으로써 보안 팀은 이러한 조치의 효과를 객관적으로 평가할 수 있다.

이를 달성하기 위해 PNNL은 클로드 모델을 위한 '스캐폴드'를 개발했다. 이 시스템은 자연어 프롬프트를 복잡한 공격 체인으로 변환하며, 사전 정의된 코드 기반 도구를 활용해 컴퓨터 네트워크에서 작업을 더 효율적으로 수행할 수 있도록 한다.

사례 연구: 물 처리 공장 시뮬레이션

연구진은 클로드 기반 에이전트에게 고정밀 사이버-물리 모델의 물 처리 공장에 대한 공격 시뮬레이션을 맡겼다. 이 시뮬레이션은 국토안보부의 사이버보안 및 인프라 보안국(CISA)을 대신해 PNNL이 운영하는 제어 환경 실험실 자원 플랫폼을 사용해 수행되었다.

시뮬레이션의 주요 발견 사항은 다음과 같다:

• 효율성 향상: 일반적으로 인간 전문가가 수주를 소요하는 공격 재구성 작업이 3시간 만에 완료되었다.
• 모델의 유연성: 테스트 중 Windows 사용자 계정 컨트롤(UAC)을 우회하기 위한 사전 정의된 도구가 실패했을 때, 클로드는 대안으로 알려진 UAC 우회 기법을 식별하고 적용하여 목표를 달성했다.

이 시뮬레이션은 2025년 여름에 클로드 손넷 4를 사용해 수행되었으며, 앤트로픽은 모델의 능력이 계속 발전함에 따라 이러한 유연성과 창의성이 더욱 증가할 것으로 예상하고 있다. 이는 공격자뿐 아니라 방어자 모두에게 긍정적인 영향을 미칠 것이다.

공공-민간 파트너십의 국가 안보 역할

핵심 인프라를 방어하기 위해서는 최첨단 AI 지능과 전문적인 물리적 테스트 환경이 필요하다. 앤트로픽과 PNNL의 협업은 서로 보완적인 파트너십을 보여준다. 각각의 기관은 독자적으로 실험을 수행할 수 없었으며, 앤트로픽은 모델 지능을 제공했고, PNNL은 사이버-물리 자산과 분야 전문 지식을 제공했다.

이 프로젝트는 AI를 사이버 방어 및 국가 안보에 적용하기 위한 포괄적인 전략의 일부이다. 관련된 다른 협업 사례로는 다음과 같은 것들이 있다:

• 핵안보: 국립핵안보국과 협력하여 AI 관련 핵 위험에 대한 평가 및 완화 방안을 개발하고 있다.
• 제너시스 미션: 에너지부(DOE) 주도의 이니셔티브로, 최첨단 AI 기업과 국립연구소들이 참여하여 국가 안보를 위한 과학적 돌파구를 달성하고 있다.