Claude Opus 4.6: LLM이 발견한 제로데이 취약점

Claude Opus 4.6는 대규모로 고중요도 취약점을 식별

Anthropic는 Claude Opus 4.6가 잘 테스트된 오픈소스 코드베이스에서 고중요도의 제로데이 취약점을 발견할 수 있다고 발표했다. 이는 수십 년 동안 발견되지 않았던 버그를 종종 찾아내는 능력을 지닌다. 전통적인 퍼저(fuzzer)가 무작위 입력에 의존하는 것과 달리, Opus 4.6은 인간과 유사한 추론을 활용해 코드를 분석하고 패턴을 식별하며 논리를 이해함으로써, 특정 작업용 도구나 맞춤형 구조 없이도 취약점을 찾을 수 있다.

취약점 발견을 위한 방법론

모델의 "아웃오브더박스" 능력을 테스트하기 위해, Anthropic는 Claude를 표준 유틸리티(예: Python과 coreutils)와 디버거, 퍼저와 같은 취약점 분석 도구가 갖춰진 시뮬레이션된 가상 머신에 배치했다. 모델은 이러한 도구에 대해 특수 지시나 맞춤형 허니스(harness)를 제공받지 않았다.

허구적 버그 보고를 방지하기 위해, Anthropic는 엄격한 검증 절차를 도입했다:

  • 메모리 손상에 집중: 메모리 손상 취약점은 프로그램 충돌과 주소 검사기(address sanitizers)를 통해 쉽게 검증할 수 있으므로, 팀은 이를 우선시했다.
  • 모델 주도의 정제: Claude는 충돌을 비판하고 중복 제거하며 재우선순위를 매기는 데 사용되었다.
  • 인간 검증: 초기 발견은 Anthropic의 보안 연구원이 수동으로 검증하고 패치했으며, 발견 수가 증가함에 따라 외부 보안 연구원도 참여했다.

Anthropic는 오픈소스 소프트웨어에서 500개 이상의 고중요도 취약점을 검증했으며, 현재 유지보수자들과 협력하여 이를 보고하고 패치하는 중이다.

LLM 기반 발견의 사례 연구

Claude Opus 4.6는 세 가지 특정 사례에서 전통적 도구보다 독특한 장점을 보였다:

GhostScript: Git 기록을 통한 추론

초기 퍼징과 수동 분석이 실패한 후, Claude는 Git 커밋 기록을 분석했다. "MM 블렌드 값에 대한 스택 경계 검사"와 관련된 보안 관련 커밋을 식별하고, 한 곳에 수정이 추가되었다면 다른 패치되지 않은 코드 경로에도 유사한 취약점이 존재할 수 있음을 추론했다. 이로 인해 Claude는 gdevpsfx.c에서 누락된 경계 검사 발견 및 개념 증명 충돌을 구성했다.

OpenSC: 위험한 함수 패턴 식별

Claude는 취약점과 자주 관련된 함수, 특히 strrchr과 strcat을 검색했다. OpenSC 내에서 출력 버퍼 길이가 올바르게 검증되지 않은 strcat 연산 시퀀스를 식별해 버퍼 오버플로우를 유발했다. Anthropic는 전통적인 퍼저가 필요한 전제 조건 때문에 이 코드 라인을 거의 타격하지 못한다는 점을 지적했다. 반면 Claude는 어떤 코드 조각이 가장 흥미로운지 추론할 수 있었다.

CGIF: 알고리즘에 대한 개념적 이해

Claude는 압축된 데이터가 항상 원본보다 작다는 가정에 결함이 있음을 인식함으로써 CGIF 라이브러리에서 버퍼 오버플로우를 발견했다. 이는 LZW 압축 알고리즘의 개념적 이해와 심지어 심볼 테이블 재설정 방식에 대한 이해가 필요했다. 이 취약점은 특정 작업 시퀀스가 필요하므로, 전통적인 퍼저가 100% 라인 및 브랜치 커버리지를 달성하더라도 여전히 발견되지 않을 수 있다.

사이버 보안 사전 조치 및 오용 탐지

이러한 능력의 이중 용도 위험을 관리하기 위해, Anthropic는 응답 생성 중 내부 모델 활성화를 측정하는 "프로브(probes)"를 사용하는 새로운 탐지 계층을 도입하고 있다. 이러한 사이버 전용 프로브는 사전 조치 팀이 대규모로 잠재적 오용을 탐지할 수 있도록 한다.

강제 조치에는 다음이 포함된다:

  • 업데이트된 워크플로우: 프로브 기반 탐지 기능을 사이버 강제 조치 파이프라인에 통합
  • 확장된 조치: 실시간 개입을 구현하며, 악성으로 탐지된 트래픽을 차단할 가능성도 포함

보안 산업에 대한 함의

Anthropic는 LLM이 인간 연구원을 뛰어넘는 속도와 규모로 새로운 취약점을 식별할 수 있는 능력이 있다는 점을 고려할 때, 산업 규범의 진화가 필요하다고 제안한다. 특히, LLM이 발견하는 취약점의 양과 속도를 감안하면 기존의 90일 공개 윈도우는 더 이상 지속 가능하지 않을 수 있다.

Sources

관련