Anthropic와 Mozilla의 협력: 클로드 오퍼스 4.6의 파이어폭스 보안 발견 결과

Anthropic와 Mozilla는 AI 모델이 복잡한 소프트웨어에서 고중요도 취약점을 독립적으로 식별할 수 있음을 입증하기 위해 협력했다. 클로드 오퍼스 4.6를 활용해 Anthropic는 2주 동안 파이어폭스 브라우저에서 22개의 취약점을 발견했으며, 그 중 14개는 Mozilla가 고중요도로 분류했다. 이는 2025년에 수정된 파이어폭스의 고중요도 취약점 전체의 거의 1/5에 해당한다.

파이어폭스에서의 AI 기반 취약점 탐지

클로드 오퍼스 4.6는 가속화된 속도로 심각한 보안 결함을 탐지하는 능력을 입증했으며, 2026년 2월에 발견한 취약점 수가 2025년 한 달 동안 모든 출처에서 보고된 수보다 많았다.

방법론 및 절차

Anthropic는 복잡성과 높은 보안 기준으로 인해 CyberGym과 같은 벤치마크를 사용하는 대신 파이어폭스 코드베이스에서 테스트를 수행하기로 전환했다. 이 과정은 세 단계로 발전했다:

역사적 재현: 클로드는 먼저 이전에 식별된 Common Vulnerabilities and Exposures (CVE)를 오래된 파이어폭스 버전에서 재현했다.
새로운 발견: 모델은 현재 버전의 파이어폭스에서 새로운 버그를 찾는 임무를 맡았으며, 고립된 특성과 큰 공격 표면을 가진 자바스크립트 엔진부터 시작했다.
대량 보고: 초기 Use After Free 메모리 취약점이 검증된 후, Anthropic는 Mozilla에 112건의 고유 보고서를 제출했으며, 이는 거의 6,000개의 C++ 파일을 포함했다.

이들 대부분의 문제는 파이어폭스 148.0에서 수정되었다.

탐지와 악용 능력의 비교

모델의 한계를 테스트하기 위해 Anthropic는 클로드 오퍼스 4.6이 발견한 버그에 대해 악용 코드를 개발할 수 있는지 평가했다. 목표는 실제 공격, 예를 들어 타겟 시스템에서 로컬 파일을 읽거나 쓰는 것을 수행할 수 있는지 확인하는 것이었다.

악용에 대한 주요 발견

낮은 성공률: 수백 번의 시도와 약 $4,000의 API 크레딧을 사용했음에도 불구하고, 오퍼스 4.6는 단지 두 번만 악용 코드를 성공적으로 생성했다.
탐지의 우위: 취약점 탐지의 비용과 용이성은 악용 코드 생성보다 한 단계 낮다.
환경적 제약: 성공한 악용은 "초보적"이었으며, 현대 브라우저 보안 기능, 특히 샌드박스가 제거된 테스트 환경에서만 작동했다. 파이어폭스의 "심층 방어" 전략은 이러한 특정 공격을 완화할 수 있었다.

AI 기반 보안의 기술적 최적 실천 방법

Anthropic는 방어자들이 "발견-수정" 프로세스를 개선하기 위해 몇 가지 절차적 및 기술적 방법을 식별했다.

작업 검증자의 역할

클로드는 "작업 검증자"—실시간 피드백을 제공하는 신뢰할 수 있는 도구—와 함께 작동할 때 가장 효과적이다. 버그 수정 시 이러한 검증자는 두 가지 핵심 속성을 보장한다:

취약점 제거: 원래 버그가 더 이상 트리거되지 않음을 확인한다.
재귀 방지: 의도된 기능이 유지되었는지 확인하기 위해 테스트 세트를 실행한다.

유지보수자들을 위한 제출 기준

소프트웨어 유지보수자의 부담을 줄이기 위해, Anthropic는 AI 기반 보고서가 신뢰성과 검증 가능성을 보장하기 위해 세 가지 특정 구성 요소를 포함할 것을 권장한다:

최소한의 테스트 케이스
상세한 개념 증명(PoC)
후보 패치

사이버보안에 대한 함의

선도적인 모델들은 이제 세계 수준의 취약점 연구를 수행할 수 있게 되었으며, 클로드 오퍼스 4.6는 리눅스 커널에서도 결함을 발견했다. 현재 모델이 버그를 발견하고 수정하는 데 더 능숙하지만, 악용하는 데는 부족한 격차가 존재하지만, Anthropic는 이 창이 아마도 일시적일 것이라고 경고한다.

탐지와 악용 사이의 격차가 좁혀질수록 악의적인 행위자에 의한 오용을 방지하기 위한 추가 보호 조치가 필요해질 것이다. Anthropic는 클로드 코드 보안(Claude Code Security)을 제한적인 연구 프리뷰로 출시하고, 조율된 취약점 공개(Coordinated Vulnerability Disclosure, CVD) 프로세스를 준수함으로써 사이버보안 노력의 범위를 확장하고 있다.