GPT-6 Cyber 릴리스 노트: 정렬된 사이버 보안 에이전트의 발전

GPT-6 Cyber 개요

GPT-6 Cyber는 취약점 탐지, 익스플로잇 개발, 패치 검증 등 사이버 보안 연구의 효율성을 높이기 위해 설계된 특수 모델입니다. 이 모델은 이전 모델인 GPT-5.6 Cyber에 비해 성능이 크게 향상되었으며, ExploitGym 벤치마크에서 51%의 상대적 성능 개선을 달성했습니다. 기능적인 측면 외에도, 이 모델은 향상된 정렬(alignment) 학습을 도입하여 보안 작업 중 에이전트가 승인된 범위 내에서 작동하도록 보장합니다.

기술적 역량 및 벤치마크

GPT-6 Cyber는 GPT-5.6 Cyber 및 범용 모델인 GPT-6 Astra와 비교하여 공격적 보안 작업에서 우수한 성능을 보여줍니다. 주요 성능 지표는 다음과 같습니다:

• ExploitGym: 이 모델은 지정된 취약점을 익스플로잇하는 데 48.5%의 성공률을 기록했으며, 이는 GPT-5.6 Cyber의 32.1%와 비교됩니다.
• 웹 침투 테스트: 새로운 공격적 웹 테스트 평가에서 GPT-6 Cyber는 40.3%의 취약점 재현율을 기록하여 GPT-6 Astra의 32.0%를 상회했습니다.
• RemoteExploitBench: 원격 타겟을 대상으로 테스트했을 때, GPT-6 Cyber는 작업의 95%를 성공적으로 완료한 반면, GPT-6 Astra(Daybreak Blue 포함)는 작업의 100%를 거부했습니다.

이러한 발전으로 인해 OpenAI는 이 모델을 준비성 프레임워크(Preparedness Framework)에 따라 "위험(Critical)" 등급으로 재분류했습니다.

정렬 및 안전성

정렬은 GPT-6 Cyber 릴리스의 핵심 요소로, 에이전트가 할당된 작업을 초과하거나 승인되지 않은 서비스를 타겟팅하는 위험을 해결하는 데 중점을 둡니다. 특수 학습을 통해 이 모델은 경계 준수 측면에서 높은 수준을 보여줍니다:

• 범위 준수: 쉽게 익스플로잇할 수 있지만 범위 밖인 서비스를 무시하는 능력을 테스트하는 "ExploitGym Honeypot" 평가에서, GPT-6 Cyber는 안전 프롬프트 없이 99.93%, 프롬프트 사용 시 100%의 성공률을 유지했습니다.
• 사고의 연쇄(Chain-of-Thought) 추론: 이 모델은 자신의 경계에 대해 명시적으로 추론하며, 사고의 연쇄 과정에서 타겟이 아닌 API나 자격 증명에 대한 제어권을 가정해서는 안 된다는 점을 자주 언급합니다.

실제 영향 및 보안 애플리케이션

GPT-6 Cyber는 현재 보안 연구원과 조직들이 소프트웨어 및 인프라를 강화하는 데 활용되고 있습니다. 주요 사례는 다음과 같습니다:

• Firefox 취약점: 연구원들은 Firefox에서 이전에 알려지지 않은 81개의 고위험 취약점을 식별했으며, 이는 Mozilla의 공식 패치로 이어졌습니다.
• Linux 커널: 이 모델은 1,724개의 취약점을 재현하고 948개에 대한 작동 가능한 익스플로잇을 개발하여 식별 및 패치 프로세스를 크게 가속화했습니다.
• 인프라 강화: OpenAI는 자체 프론티어 모델 학습 환경 내의 약점을 식별하고 수정하기 위해 이 모델을 활용했습니다.

안전 장치 및 중요 인프라

오용 위험을 완화하기 위해 OpenAI는 GPT-6 Cyber 릴리스와 함께 다층적 안전 전략을 구현했습니다. 여기에는 다음이 포함됩니다:

• 개인정보 보호 안전 처리(PSP): 자동화된 검사를 통해 API 고객의 데이터 개인정보를 보호하면서 상호 작용의 오용 여부를 검토합니다.
• 모니터링: 이 시스템은 사이버 관련 정렬 오류 모니터링 및 신흥 위협에 대한 표적 감시를 수행합니다.
• 중요 인프라 보호: "중요 인프라를 위한 Daybreak Red"라는 새로운 계층은 승인된 방어자에게 고급 도구에 대한 액세스 권한을 제공하는 동시에, 산업 제어 시스템(OT/ICS)에 대한 간섭을 방지하기 위해 더 엄격한 안전 장치를 적용합니다. 이는 보안 도구가 의도치 않게 물리적 손상이나 서비스 중단을 일으키지 않도록 Dragos와의 파트너십을 통해 개발되었습니다.