Firefox 하드닝: Mozilla가 Claude Mythos를 활용해 수백 개의 보안 버그를 근절한 방법

수년간 오픈소스 유지관리자와 AI‑생성 버그 보고서 사이의 관계는 긴장 상태에 있었습니다. LLM이 보안 취약점을 찾으려는 초기 시도는 종종 “슬롭”이라 불리는, 겉보기엔 그럴듯하지만 근본적으로 잘못된 보고서들을 낳았습니다. 이는 개발자들이 사소한 환상을 해명하는 데 몇 시간을 소비해야 하는 비대칭적인 비용을 초래했습니다.

하지만 Mozilla는 최근 패러다임 전환을 발표했습니다. Claude Mythos Preview와 같은 모델의 진화된 능력에 정교한 agentic harness를 결합함으로써, Mozilla는 Firefox에서 전례 없는 수많은 잠재 보안 버그를 식별하고 수정했습니다. 이 노력은 정적 분석에서 벗어나, 취약점을 가설로 제시할 뿐 아니라 재현 가능한 테스트 케이스를 통해 입증할 수 있는 동적 AI‑구동 하드닝 파이프라인으로의 전환을 의미합니다.

AI 버그 사냥의 진화

Mozilla의 여정은 GPT-4와 Sonnet 3.5와 같은 모델을 활용한 단순 정적 분석으로 시작되었습니다. 가능성은 있었지만, 초기 실험은 높은 오탐률에 시달려 대규모 적용이 어려웠습니다. 돌파구는 agentic harness의 구현에서 찾아졌습니다.

표준 LLM 프롬프트와 달리, agentic harness는 프로젝트 기존 인프라—이 경우 Mozilla의 퍼징 시스템—와 통합됩니다. 이를 통해 AI는 다음을 수행할 수 있습니다:

  1. 가설 설정: 코드 내 잠재적 취약점을 식별합니다.
  2. 테스트: 재현 가능한 테스트 케이스를 생성·실행해 버그가 실제로 발생하는지 확인합니다.
  3. 검증: 재현 불가능한 추측을 배제하고 실제 버그를 확인합니다.

이 루프가 정교화되자, Mozilla는 에페머럴 VM에 작업을 병렬화하여 각 파일을 대상으로 하고 결과를 중앙 버킷에 기록함으로써 프로세스를 확장했습니다. 이는 LLM을 단순 조언자에서 보안 버그 라이프사이클의 기능적 일부로 전환시켰으며, 중복 제거, 트라이에지, 배포 과정과도 통합되었습니다.

심층 분석: AI가 발견한 내용

발견된 버그들의 다양성은 복잡하고 다중 프로세스인 브라우저 엔진 코드를 추론할 수 있는 AI의 능력을 보여줍니다. 많은 경우가 전통적인 퍼저가 탐지하기 어려운 “sandbox escape”였으며, 이는 단순 메모리 손상이 아니라 특정 논리적 구멍을 요구합니다.

몇 가지 주목할 만한 예시:

  • 논리 및 엣지 케이스: <legend> 요소에 대한 15년 된 버그가 재귀 스택 깊이 제한과 사이클 컬렉션을 정교하게 조작함으로써 트리거되었습니다.
  • IPC 취약점: Inter-Process Communication (IPC)에서의 레이스 컨디션으로, 손상된 콘텐츠 프로세스가 부모 프로세스의 IndexedDB 레퍼런스 카운트를 조작해 Use-After-Free (UAF)를 일으켰습니다.
  • 메모리 안전: IPC 경계를 넘는 raw NaN이 태그된 JS 객체 포인터로 위장되어 가짜 객체 프리미티브를 만들고 sandbox escape를 가능하게 했습니다.
  • 레거시 코드: 20년 된 XSLT 버그에서 재진입 key() 호출이 해시 테이블 재해시를 일으켜, 포인터가 아직 사용 중인 상태에서 백업 스토어가 해제되었습니다.

흥미롭게도, Mozilla는 AI가 특정 버그를 찾지 못한 경우도 관찰했습니다. 모델들은 프로토타입 오염을 이용해 sandbox를 탈출하려 여러 차례 시도했지만, Mozilla가 사전에 구현해 둔 기본 프로토타입 동결 아키텍처에 의해 차단되었습니다. 이는 기존 방어‑심층 전략이 효과적임을 입증하는 좋은 사례가 되었습니다.

파이프라인 확장

Mozilla는 LLM을 교체 가능한 기본 요소로 취급했습니다. 파이프라인을 먼저 구축함으로써 Claude Mythos Preview로 원활히 업그레이드할 수 있었고, 이는 버그 탐지, PoC 생성, 취약점 병리학 서술 능력을 크게 향상시켰습니다.

그 영향 규모는 숫자로도 명확합니다. 2026년 4월에만 Mozilla는 423개의 보안 버그를 수정했으며, 이 중 271개는 Firefox 150 릴리스를 위해 Claude Mythos Preview가 식별한 것입니다. 이 271개 버그의 심각도 분포는 다음과 같습니다:

  • sec-high: 180
  • sec-moderate: 80
  • sec-low: 11

산업적 함의와 반론

이 파이프라인의 성공은 소프트웨어 보안의 미래에 대한 광범위한 논의를 촉발했습니다. 일부 개발자는 이것이 전통적인 제로데이의 종말을 의미한다고 주장하는 반면, 다른 이들은 인간 요소에 대한 우려를 표합니다.

커뮤니티 토론에서 제기된 주요 논점:

  • 인간 요소: 프로젝트가 인간이 만든 버그 보고서를 무시하고 AI‑생성 보고서에만 의존하게 되면, 오랫동안 누적된 수동 보고서가 방치될 위험이 있습니다.
  • 툴링 변화: agentic AI가 전통적인 정적 분석 도구를 대체할 가능성이 제기되고 있습니다. 기존 도구는 종종 느리고 오탐이 많기 때문입니다.
  • 지속 가능성: 이런 대규모 정리 작업이 지속 가능한 관행인지, 아니면 AI 제공업체와의 파트너십에 기반한 일회성 “마케팅 사용 사례”인지에 대한 의문이 제기됩니다.

개발자를 위한 시사점

Mozilla는 다른 소프트웨어 프로젝트도 지금 바로 유사한 harness를 구현하기 시작하라고 권장합니다. 핵심 “내부 루프”는 간단합니다: 코드의 한 섹션을 식별하고, 모델에 버그를 찾도록 프롬프트한 뒤, 이를 증명할 테스트 케이스를 만들도록 요구합니다. 이 인프라를 조기에 구축하면 현재 모델의 혜택을 즉시 누릴 수 있으며, 더 강력한 모델이 출시될 때 자동으로 보안 태세를 확장할 수 있습니다.

Mozilla는 앞으로 이 분석을 CI(Continuous Integration) 시스템에 직접 통합해, 패치가 트리에 머무르는 순간 새로운 취약점이 도입되는 것을 사전에 차단할 계획입니다.

SUMMARY: Mozilla는 기본 LLM 감사에서 agentic 하드닝 파이프라인으로 전환했으며, Claude Mythos Preview를 활용해 Firefox에서 271개의 보안 취약점을 식별하고 수정했습니다.

TITLE: Firefox 하드닝: Mozilla가 Claude Mythos를 활용해 수백 개의 보안 버그를 근절한 방법

Sources