OpenAI Cyber Pipeline, Linux 커널 LPE 익스플로잇 948건 발견

TL;DR

OpenAI는 곧 출시될 사이버 모델을 사용하여 948개의 서로 다른 Linux 커널 로컬 권한 상승(LPE) 취약점을 자동으로 찾고, 재현하고, 익스플로잇하고, 패치를 생성하는 프로토타입 보안 파이프라인을 공개했습니다. 이는 모델 기반 취약점 연구가 대규모의 중요한 코드베이스로 확장될 수 있음을 보여줍니다.

연구 파이프라인 개요

파이프라인은 각각 특수 에이전트와 곧 출시될 사이버 모델로 구동되는 5개의 순차적 단계로 구성됩니다.

  1. 취약점 발견 – 정찰 에이전트는 가치가 높은 감사 대상을 선택합니다. 분석 에이전트는 해당 대상을 스캔하여 후보 결과를 찾습니다.
  2. 동적 검증 – 분류 에이전트는 격리된 VM에서 KASAN(Kernel Address Sanitizer)을 사용하여 개념 증명(PoC)을 생성 및 실행하고 실제 취약점을 확인합니다.
  3. 익스플로잇 가능성 평가 – 선별 에이전트는 익스플로잇 가능한 사례를 필터링합니다. ExploitDev 에이전트는 현실적인 커널 강화 설정에서 작동하는 익스플로잇을 개발합니다.
  4. 패치 생성 – 패치 에이전트는 모범 사례 프롬프트와 변형 분석을 기반으로 후보 수정 사항을 생성합니다.
  5. 인간 검토 – 보안 연구원은 유지 관리자에게 보고하기 전에 익스플로잇, 패치 및 심각도를 검증합니다.

파이프라인 끝에서 각 결과에는 근본 원인 분석, 최소 충돌 PoC, 후보 패치 및 전체 익스플로잇이 번들로 제공됩니다.

단계별 결과 및 비용

취약점 발견

  • 정찰 에이전트는 커널의 약 7%에 해당하는 약 280만 줄의 코드를 포함하는 5,034개의 감사 대상을 식별했습니다. 비용: API 크레딧 $3,426.
  • 분석 에이전트는 12시간 이내에 중복 제거 후 2,308개의 후보 결과를 생성했습니다. 비용: $316,549.

동적 검증

  • 분류 에이전트는 KASAN이 활성화된 VM에서 PoC를 반복적으로 개선하여 1,724개의 취약점(후보의 약 74.7%)을 재현했습니다.
  • 검증 비용: $73,330. 이 단계 이전의 오탐 감소는 주요 비용 절감 기회로 식별됩니다.

익스플로잇 가능성 평가

  • 선별 에이전트는 결과를 313개의 정보 유출 및 1,238개의 LPE 후보로 좁혔습니다.
  • ExploitDev 에이전트는 291개의 정보 유출 PoC와 1,169개의 작동하는 LPE 익스플로잇을 만들었습니다.
  • 변형 분석 후 948개의 고유한 LPE 익스플로잇이 확인되었습니다.
  • 익스플로잇 비용: $775,929(성공적인 LPE 익스플로잇당 약 $359).
  • 정보 유출 평가는 LPE 평가(후보당 $558)보다 저렴했습니다(후보당 $271).

패치 생성

  • 패치 에이전트는 커널 코딩 표준 및 정적 검사에 부합하는 948개의 후보 패치를 생성했습니다.
  • 중요한 취약점에 대한 수백 개의 패치가 이미 Patch the Planet 이니셔티브를 통해 유지 관리자에게 제출되었습니다.

주요 발견 및 시사점

빠른 업스트림 대응

  • 자동 스캔 후 10일 이내에 Linux 유지 관리자는 이미 61개의 LPE 수정 사항을 업스트림에 반영하고 43개의 패치를 준비했으며 299개에 대해 논의 중이었습니다.

    핵심: 중복되거나 오래된 보고서를 피하려면 자동 분류가 빠른 업스트림 변경 사항을 고려해야 합니다.

모델 성능이 적용 범위를 결정

  • 이후 최신 사이버 모델을 사용한 스캔에서는 이전 GPT-5.5 Cyber 모델의 166개 LPE(비용 $0.51M)와 비교하여 948개의 LPE(비용 $1.21M)를 발견했습니다.

    핵심: 더 강력한 모델로 코드를 다시 스캔하면 이전에 놓친 취약점을 발견할 수 있습니다.

새로운 익스플로잇 기술

  • 166개의 샘플 익스플로잇 분석 결과 10개의 이전에 알려지지 않은 커널 익스플로잇 기술이 밝혀졌으며, 여기에는 새로운 영구 탄성 객체, 페이지 그루밍 방법 및 데이터 전용 공격이 포함됩니다.

    핵심: 프론티어 모델은 알려진 패턴을 복제할 뿐만 아니라 새로운 공격 전략을 발명할 수 있습니다.

방어자를 위한 경제적 관점

  • 948개의 LPE 익스플로잇을 역사적 버그 바운티 비율($20k–$70k)로 평가하면 가상 보상은 $18.9M–$66.3M으로 파이프라인 총 비용의 약 16–55배입니다.
  • 강화된 kernelCTF 환경에서 21개의 LPE 익스플로잇은 지출된 $32,936의 약 45배인 약 $1.5M을 벌었을 것입니다.

    핵심: 현재 모델 성능으로 자동화된 취약점 연구는 공격자에게 경제적으로 수익성이 있을 수 있으며, 사전 예방적 방어 분석의 필요성을 강조합니다.

검증 함정

  • 초기 실행에서 20개의 익스플로잇을 잘못된 0-day 취약점으로 잘못 기여했습니다. 인간 검토는 익스플로잇의 정확한 경로를 확인하는 독립적인 검사를 추가했습니다.

    핵심: 자율 파이프라인은 결과와 악용된 특정 취약점을 모두 검증해야 합니다.

오케스트레이션 대 모델 강도

  • 과중한 오케스트레이션(기술 라이브러리)은 GPT-5.5 Cyber 성공률을 76.2%에서 88.9%로 높였습니다.
  • 더 강력한 GPT-5.6 Cyber는 추가 스캐폴딩 없이도 유사한 성능을 보였으며, 추가 시 1.5% 포인트 향상에 그쳤습니다.

    핵심: 기본 모델이 개선됨에 따라 유지 관리 오버헤드를 줄이기 위해 오케스트레이션을 단순화하십시오.

패치 생성 성숙도

  • 초기 패치는 기능적으로 정확했지만 종종 지나치게 장황하거나 변형 사례를 놓쳤습니다.
  • 반복적인 프롬프트 및 지침 개선을 통해 기능, 성능 및 스타일 요구 사항을 충족하는 패치가 생성되었으며 인간이 작성한 패치의 문제까지 식별했습니다.

    핵심: 신뢰할 수 있는 AI 생성 보안 패치에는 반복적인 하네스 설계가 필수적입니다.

인프라 취약점

  • 파이프라인은 테스트 환경에서 QEMU TCG 취약점을 발견했으며, 발견 후 업스트림에서 패치되었습니다.

    핵심: 사이버 기능이 있는 모델은 연구에 사용되는 인프라 자체의 결함을 노출할 수 있습니다. 테스트 스택의 철저한 강화가 필요합니다.

보안 커뮤니티에 대한 시사점

  • 확장 가능한 감사 – 모델 기반 파이프라인은 수백만 줄의 코드를 분류하는 데 필요한 수동 노력을 줄여 영향력이 큰 결과에 인간 전문성을 집중할 수 있습니다.
  • 지속적인 재평가 – 성능 향상이 새로운 취약점 적용 범위로 직접 이어지므로 업그레이드된 모델로 정기적인 재스캔이 권장됩니다.
  • 비용 효율적인 방어 – 익스플로잇 비용을 현상금 지급액과 비교 측정하면 방어자가 자체 취약점 발견 및 패치 워크플로를 자동화하여 활용할 수 있는 비용 비대칭성이 강조됩니다.
  • 유지 관리자와의 협업 – 프로젝트와의 조기 참여(예: Patch the Planet을 통해)는 패치 수용을 가속화하고 노출 기간을 줄입니다.
  • 안전 통제 – 익스플로잇 경로의 독립적 검증, 엄격한 격리 및 모니터링은 오탐과 의도하지 않은 손상을 방지하기 위해 필수입니다.

향후 방향

OpenAI는 이 파이프라인을 Daybreak 및 Patch the Planet 이니셔티브에 따라 추가 중요한 오픈 소스 프로젝트로 확장하고, 비용 절감을 위해 하네스를 개선하며, 자동화된 패치 품질을 향상시킬 계획입니다. 궁극적인 목표는 취약점을 찾고 익스플로잇하는 비용을 잠재적 보상보다 높게 만들어 인터넷의 보안 기준을 높이는 것입니다.

참고 자료

Sources