OpenAI Codex Security: 시스템이 SAST 보고서 시드를 피하는 이유

OpenAI는 Codex Security를 설계하여 기존 정적 애플리케이션 보안 테스트(SAST) 보고서를 분류하는 대신, 아키텍처, 신뢰 경계 및 의도된 동작을 기반으로 리포지토리를 분석합니다. 이 접근 방식은 시스템이 코드에 보안 검사가 존재한다는 사실을 단순히 확인하는 것이 아니라, 실제로 보안 방어가 작동하는지를 중점적으로 확인하도록 합니다.

복잡한 취약점 탐지에서 SAST의 한계

정적 애플리케이션 보안 테스트(SAST)는 주로 데이터 흐름 분석—신뢰할 수 없는 입력을 소스에서 민감한 싱크로 추적하는—에 최적화되어 있습니다. 많은 버그에 효과적이지만, 이 모델은 현대 코드베이스의 의미적 현실을 다루는 데 어려움을 겪습니다.

데이터 흐름 vs. 보안 불변식

SAST 도구는 종종 sanitize_html()와 같은 정화 함수가 호출되었음을 식별하지만, 해당 정화 함수가 특정 렌더링 컨텍스트, 템플릿 엔진 또는 하위 변환에 충분한지 여부를 판단하기는 어렵습니다. 중요한 차이는 "코드가 정화 함수를 호출한다"는 사실과 "시스템이 안전하다"는 결론 사이에 있습니다.

변환 체인의 도전 과제

많은 중요한 취약점은 연산 순서 실수나 파싱 모호성에서 비롯되며, 변환 후 검사가 우회될 때 발생합니다. 예를 들어, 정규식 검증이 URL 디코딩 전에 수행되면, 디코딩된 URL는 원래 검증의 제약을 더 이상 받지 않을 수 있습니다. OpenAI는 Express에서의 CVE-2024-29041을 예시로 들어, 데이터 흐름은 단순했지만 변환 체인 이후 검증이 유지되지 않아 취약점이 존재했다고 설명합니다.

Codex Security의 행동 검증 접근 방식

보안 검사를 체크박스로 취급하는 대신, Codex Security는 코드 조각이 제공하려는 보증을 이해하고, 여러 기술적 방법을 사용해 그 보증을 반증하려 시도합니다:

  • Contextual Analysis: 시스템은 전체 리포지토리 컨텍스트와 주석을 포함한 코드 경로를 읽어, 의도와 구현 사이의 불일치를 식별합니다.
  • Micro-fuzzing: 시스템은 변환 파이프라인의 가장 작은 테스트 가능한 조각을 추출하고, 이를 격리된 상태에서 테스트하기 위해 마이크로 퍼저를 작성합니다.
  • Constraint Reasoning: 비표준 아키텍처에서의 정수 오버플로와 같은 복잡한 입력 제약에 대해, 시스템은 z3-solver가 장착된 Python 환경을 사용해 문제를 만족도 질문으로 형식화합니다.
  • Sandboxed Execution: 시스템은 가상 환경에서 가설을 실행하여 디버그 모드로 컴파일된 코드로 엔드‑투‑엔드 PoC(Proof-of-Concept)를 생성하고, 이론적 위험과 실제 취약점을 구분합니다.

Codex Security가 SAST 보고서에서 시드하지 않는 이유

OpenAI는 에이전트의 시작점으로 SAST 보고서를 사용하는 것을 명시적으로 피하고, 다음 세 가지 특정 실패 모드를 방지합니다:

  1. Premature Narrowing: 발견 목록으로 시작하면 도구가 이미 식별한 영역과 추상화에 에이전트가 편향되어, 도구의 시야 밖에 있는 문제를 놓칠 수 있습니다.
  2. Implicit Judgments: SAST 발견은 종종 신뢰 경계에 대한 가정을 내포합니다. 이러한 가정이 잘못되면 에이전트는 "조사"에서 도구의 가정을 단순히 "확인하거나 기각"하는 단계로 전환될 수 있습니다.
  3. Evaluation Difficulty: SAST 출력으로 시드하면 에이전트의 독립적인 발견 능력을 측정하기 어려워지며, 이는 시스템을 반복적으로 개선하는 데 필요합니다.

방어 심층 방어에서 SAST의 역할

OpenAI는 SAST 도구가 보안 코딩 표준을 강제하고 대규모로 알려진 패턴을 탐지하는 데 여전히 중요하다고 언급합니다. 그러나 단일 "오염된 값"이 "위험한 싱크"에 도달하지 않더라도, 시스템 상태에 대한 프로그램의 근본적인 가정이 위배되는 권한 부여 격차나 워크플로우 우회와 같은 상태 및 불변식 문제를 발견하는 데는 충분하지 않습니다.

SUMMARY: OpenAI의 Codex Security는 정적 애플리케이션 보안 테스트(SAST) 보고서로 시작하는 것을 피함으로써 분석이 조기에 좁아지는 것을 방지하고, 변환 체인을 통해 보안 불변식이 실제로 유지되는지를 검증하는 데 집중합니다.

TITLE: OpenAI Codex Security: 시스템이 SAST 보고서 시드를 피하는 이유

Sources