GPT-5.6 릴리스 노트: 에이전트의 가격-성능 향상

OpenAI는 선도적인 에이전트 성능을 더 저렴하게 만들고 자율 에이전트의 기능을 확장하기 위해 설계된 GPT-5.6 모델 패밀리를 발표했습니다. 이번 릴리스는 가격-성능 효율성을 높이는 데 초점을 맞추어, 개발자들이 높은 정확도를 유지하면서 토큰 소비와 운영 비용을 줄일 수 있도록 했습니다.

향상된 가격-성능 및 모델 선택

GPT-5.6는 이전 세대보다 더 낮은 추론 노력으로 더 높은 정확도를 제공합니다. 에이전트의 마지막 시험 벤치마크에서 테스트한 결과, GPT-5.6 Sol이 "낮은" 추론 노력으로 수행한 성능은 GPT-5.5가 "높은" 추론 노력으로 수행한 성능을 상회했습니다. 일정한 하네스를 사용한 상황에서입니다.

개발자들은 이제 5.6 패밀리 내에서 더 비용 효율적인 모델인 Luna와 Terra를 사용하여 플래그십 수준의 성능을 달성할 수 있습니다. 이는 테스트 시점 컴퓨팅을 늘림으로써 가능해졌으며, 이 변화는 다음의 BrowseComp 검색 기반 벤치마크에서 확인할 수 있습니다:

• GPT-5.5 (초고): 비용 $33.27에 84.36%의 점수를 기록.
• GPT-5.6 Luna (초고): 비용 $1.33에 84.04%의 점수를 기록.

Luna와 Terra와 같은 소형 모델은 고용량 워크로드, 지연 시간에 민감한 상호작용, 그리고 에이전트 워크플로우에서 반복적인 단계(예: 손글씨 메모에서 데이터 추출)에 특히 추천됩니다.

에이전트 아키텍처를 위한 Responses API 업데이트

OpenAI는 에이전트 효율성을 향상시키기 위해 Responses API에 세 가지 아키텍처적 개선을 도입했습니다.

1. 추론 지속성 및 압축

GPT-5.6은 모델의 각 단계 간에 추론을 지속할 수 있으며, 장시간 실행되는 대화를 내장 압축 기능으로 압축할 수 있습니다. 이러한 기능은 장기적인 작업 범위에서 모델이 일관성을 잃거나 맥락을 재구성해야 하는 일을 방지합니다. ARC-AGI-3 벤치마크에서 추론 지속성과 압축을 활성화한 결과, GPT-5.6 Sol의 점수가 약 6배 적은 출력 토큰을 사용하면서 13.3%에서 38.3%로 상승했습니다.

2. 내장 다중 에이전트 오케스트레이션

Responses API는 이제 내장된 다중 에이전트 오케스트레이션을 지원하여, 주 에이전트가 하위 에이전트에게 작업을 위임하고, 이들이 병렬로 작업할 수 있도록 합니다. 병렬 워크스트림에 걸쳐 추론을 분산함으로써 작업 완료 속도와 전반적인 지능이 향상됩니다. 이 오케스트레이션은 ChatGPT의 "울트라" 기능 설정의 기반이기도 합니다.

3. 프로그래밍 기반 도구 호출

"컨텍스트 로트"를 줄이고 비용을 낮추기 위해, 프로그래밍 기반 도구 호출 기능을 통해 GPT-5.6은 자바스크립트를 작성하여 모델의 컨텍스트 창 외부에서 도구를 조율하고 출력을 처리(예: 데이터 필터링 또는 집계)할 수 있습니다. 이는 판단이 필요한 작업에 모델 토큰을 할당하고, 결정론적 데이터 조작에는 사용하지 않도록 합니다.

프롬프트 캐시 개선

OpenAI는 프롬프트 캐시의 Time-to-Live(TTL)를 최소 30분으로 연장했습니다. 또한, 개발자는 모델의 컨텍스트 창 내에서 캐시 브레이크포인트를 결정적으로 설정하여 캐시 히트율을 향상시킬 수 있습니다. prompt_cache_key를 사용하는 것이 권장되며, 이는 요청이 동일한 추론 엔진에 도달할 가능성을 높여 지연 시간을 줄이는 데 도움이 됩니다.