Third Moment Research가 OpenAI Codex와 GPT-6으로 10,000개 에이전트를 36시간 이상 운영하는 방법

TL;DR

Third Moment Research는 OpenAI Codex, GPT-6 Astra, GPT-6 Sol, GPT-6.1 Sol을 사용하여 36~48시간 동안 지속되는 조사에 10,000개의 에이전트를 동시에 실행합니다. 이 시스템은 스스로 개선되는 AI 루프입니다. 모델이 에이전트 행동을 분석하고, 반복되는 약점을 식별하고, 해당 문제를 중심으로 합성 시나리오를 생성하며, 새로운 문제가 발생함에 따라 에이전트를 개선합니다. Daybreak는 이러한 에이전트가 작동하는 환경의 보안 테스트를 자동화합니다.

Third Moment Research가 구축한 것

Third Moment Research는 최고의 에이전트가 회사의 특정 워크플로, 도구, 엣지 케이스, 성공 정의에 매우 능숙해야 하며, 사용될수록 더 개선되어야 한다는 아이디어를 중심으로 설계된 자기 개선형 AI 시스템을 구축하고 있습니다.

이 회사는 OpenAI 모델을 사용하여 에이전트 행동을 이해하고, 반복되는 약점을 식별하며, 해당 문제를 중심으로 수천 개의 합성 시나리오를 자동으로 생성합니다. 그런 다음 Third Moment Research는 이러한 시나리오를 사용하여 에이전트를 개선하고, 새로운 문제가 나타날 때마다 이 과정을 반복합니다.

Codex, GPT-6 Astra, GPT-6 Sol, GPT-6.1 Sol은 시스템의 연구 및 계산 작업을 지원합니다. 이 조합을 통해 Third Moment Research는 36~48시간 동안 지속되는 조사에서 10,000개의 에이전트를 한 번에 실행할 수 있습니다. 또한 이 회사는 Daybreak를 사용하여 에이전트가 작동하는 환경의 보안을 테스트합니다.

"단일 세션에서 GPT-6.1 Sol은 계산 맥락을 잃지 않고 며칠 동안의 계산 연구의 일관된 흐름을 유지할 수 있습니다."

—Adam Khakhar, Third Moment Research 공동 창업자

Codex가 백테스트 런타임을 약 3시간에서 약 3~5분으로 단축

Third Moment Research의 초기 애플리케이션 중 하나는 명확한 성공 측정 기준이 있는 도메인인 퀀트 금융입니다. 팀은 Codex를 사용하여 연구 환경의 문제를 찾고 해결합니다.

한 사례에서 Third Moment Research는 당시 최신 GPT 모델인 GPT-5.6과 함께 Codex를 사용하여 수천 개의 기록된 시뮬레이션 궤적(에이전트의 행동과 환경의 반응)을 타임스탬프 및 코드베이스와 함께 분석했습니다.

Codex는 병목 현상을 발견했습니다. 미국 주식 데이터 1년치에 걸쳐 거래 전략을 백테스트하는 데 몇 시간이 걸렸습니다. 대기하는 동안 에이전트는 완료 여부를 반복적으로 폴링하여 토큰을 낭비하고 컨텍스트를 상태 확인으로 채웠습니다.

백테스트를 프로파일링하고 입력 및 사용량을 분석한 후, Codex는 캐싱 최적화와 메모리 패킹 기법을 식별했습니다. Codex는 솔루션을 실험하고 수정 사항을 프로덕션에 배포하여 백테스트 시간을 약 3시간에서 약 3~5분으로 줄였습니다. 이러한 감소는 토큰 사용량과 컨텍스트 오염을 낮추어 에이전트의 토큰 예산 중 더 많은 부분을 추가 실험에 사용할 수 있게 했습니다.

에이전트 하네스: Dockerized 환경 내부의 Codex

Third Moment Research는 각 에이전트에게 특정 작업에 필요한 도구, 정보, 환경을 제공합니다. 퀀트 연구의 경우 팀은 Dockerized 환경 내부에서 기본 Codex 하네스를 실행합니다. 에이전트는 테라바이트 규모의 데이터, 문서, 그리고 피처 엔지니어링, GPU 지원 모델 훈련, 거래 전략, 시뮬레이션을 위한 모듈이 포함된 연구 저장소를 받습니다.

GPT-6 Astra, GPT-6 Sol, GPT-6.1 Sol은 추론을 제공합니다. Codex 하네스는 에이전트에게 행동하고, 계획을 세우고, 목표를 설정하고, 하위 에이전트를 생성하고, 작업이 계속됨에 따라 컨텍스트를 압축할 수 있는 도구를 제공합니다.

Third Moment Research는 작업을 완료하기 전에 중단되는 에이전트를 처리하기 위해 Codex를 GPT-6 Sol 또는 GPT-6.1 Sol이 구동하는 외부 하네스 내부의 하위 에이전트로 취급합니다. 외부 하네스는 작업이 완료되지 않은 채 남겨졌을 때 궤적을 검토하고 재시도할지, 작업을 종료할지, 아니면 인간 검토로 에스컬레이션할지 결정합니다.

"Codex 하네스는 매우 다재다능하며 다양한 도메인에서 사용할 수 있게 해줍니다."

—Adam Khakhar, Third Moment Research 공동 창업자

해당 연구 환경에서 에이전트는 Third Moment Research 엔지니어가 구축한 기준 거래 시스템을 개선하기 위해 작업합니다. 에이전트는 과거 데이터에서 거래 전략을 테스트하고, 개선이 의미 있는지 단순한 노이즈인지 평가하며, 각 결과를 사용하여 다음 실험을 선택합니다. Adam에 따르면, 그들의 작업은 기준 거래 시스템을 개선했습니다.

모델 발전: 규정된 실험에서 근본 원인 조사로

Adam은 GPT-5.5 이전에는 모델이 사용자가 규정한 실험만 실행할 수 있었다고 말합니다. GPT-5.5 및 GPT-5.6에서는 Codex 하네스와 함께 작동하는 모델이 결과를 사용하여 후속 실험을 설계할 수 있었습니다. GPT-6 Astra, GPT-6 Sol, GPT-6.1 Sol을 통해 에이전트는 하위 에이전트와 병렬로 실행되는 수백 개의 실험을 통해 근본 원인을 조사할 수 있습니다.

이러한 발전은 에이전트가 팀이 예상하지 못한 연구 방향을 탐색하는 데 도움이 되었습니다. 한 세션에서 GPT-6.1 Sol은 비표시 거래가 예상외로 큰 거래량 비중을 차지하는 거래소에서 비표시 거래의 영향을 식별했습니다.

"이것은 우리 연구팀이 처음에 고려하지 못했던 쉽게 눈에 띄지 않는 결과였습니다."

—Adam Khakhar, Third Moment Research 공동 창업자

모델 평가 및 선택

Third Moment Research는 최적화, 머신 러닝 시스템, 퀀트 연구 전반에 걸쳐 모델을 평가합니다. 최고 추론 설정에서 최첨단 모델을 테스트하여 저장소 탐색, 효율적인 코드 작성, 조사 지속 능력을 평가합니다. 현재 테스트에는 GPT-6 Luna도 포함됩니다.

"GPT-6.1 Sol은 현재 토큰 효율성 덕분에 가장 많이 사용하는 모델입니다. GPT-6 Astra와 비슷한 성능을 제공하면서도 가장 적은 토큰으로 작업을 완료합니다."

—Jeffrey Yan, Third Moment Research 공동 창업자

한 벤치마크는 에이전트에게 출력을 유지하면서 라이브 스코어보드 서비스의 업데이트 지연 시간을 줄이도록 요청합니다. 팀은 동일한 하드웨어에서 전문가가 만든 솔루션의 평균 런타임을 모델 솔루션의 평균 런타임으로 나누어 정확성 조건 하에 속도 향상을 측정합니다. Adam에 따르면 GPT-6 Astra가 가장 큰 속도 향상을 제공했습니다.

시뮬레이션 시스템의 특정 보안 취약점 확인과 같은 목표 지향 작업의 경우, 팀은 GPT-5.6 Terra와 같은 더 효율적인 모델을 사용합니다. 심층 연구의 경우 Adam은 더 강력한 추론이 더 높은 비용을 정당화할 수 있다고 믿습니다: "퀀트 금융 분야에서 흥미로운 신호를 찾는 것의 가치는 매우 높습니다."

Daybreak가 대규모 보안 테스트를 자동화

10,000개의 에이전트가 자율적으로 실행됨에 따라 Third Moment Research는 연구 환경의 보안을 대규모로 테스트할 방법이 필요합니다. 팀은 Daybreak 사이버 보안 플랫폼을 사용하여 시뮬레이션을 시작하기 전에 해당 테스트를 자동화합니다.

테스트는 에이전트가 연구 환경을 벗어나 더 넓은 네트워크에 접근할 수 있는지 확인합니다.

"Daybreak를 사용함으로써 에이전트 자체가 시뮬레이션에 대한 침투 테스트를 수행하고 그 인프라와 보안을 테스트할 수 있습니다."

—Adam Khakhar, Third Moment Research 공동 창업자

"Daybreak가 없다면 우리는 이 규모의 자율 테스트를 수행할 수 없을 것입니다."

—Adam Khakhar, Third Moment Research 공동 창업자

로드맵: 수십만 개의 협업 하위 에이전트

Third Moment Research의 야망은 기업이 매일 수행하는 전문 업무로 확장됩니다. 소매업체의 경우 재고가 부족하거나 공급업체가 지연될 때 더 나은 공급망 결정을 내리는 것이 될 수 있습니다. 엔지니어링 팀의 경우 대규모 코드베이스의 성능 병목 현상을 찾는 것이 될 수 있습니다. 문서 중심 비즈니스의 경우 한 문서의 약속이 다른 문서에 기록된 결과와 일치하지 않는 부분을 식별하는 것이 될 수 있습니다.

GPT-6 Astra, GPT-6 Sol, GPT-6.1 Sol의 추론 능력을 기반으로 Third Moment Research는 개별 조사에서 수십만 개의 협업 하위 에이전트로 확장할 계획입니다. 로드맵은 수십 개의 종속 실험 체인을 지원하는 수조 개의 토큰을 요구하며, 목표는 새로운 과제가 발생할 때 그 연구를 사용하여 에이전트를 자율적으로 개선하는 것입니다.

Adam에게 이것은 사람들이 에이전트가 학습하고 작업하는 방식을 형성할 수 있는 더 큰 여지를 제공할 것입니다:

"인간은 훨씬 더 레버리지가 높은 위치에 있을 수 있습니다. 연구를 수행하는 대신 연구 방법을 고민하고 연구 자체를 최적화할 수 있습니다."

—Adam Khakhar, Third Moment Research 공동 창업자