OpenAI Agents API 퍼블릭 베타 출시
TL;DR
OpenAI가 Agents API를 퍼블릭 베타로 출시했습니다. 이 API는 관리형 하네스(harness)와 유연한 컴퓨팅 환경을 제공하여 개발자가 단 한 번의 API 호출로 프로덕션 수준의 장기 실행 LLM 에이전트를 구축할 수 있도록 합니다.
단 한 번의 호출로 에이전트 생성
Agents API를 사용하면 작업 설명, 기반 모델, 에이전트가 사용할 수 있는 도구 세트, 실행 환경을 지정하는 단일 요청을 보냄으로써 완전한 에이전트를 인스턴스화할 수 있습니다. 이를 통해 컨텍스트 관리, 도구 로딩 및 실행 오케스트레이션(orchestration)을 위한 별도의 호출을 결합할 필요가 없어집니다.
워크로드에 적합한 컴퓨팅 환경 선택
- OpenAI-hosted sandboxes – Codex와 ChatGPT의 기반이 되는 인프라를 반영하는 안전하고 사전 프로비저닝된 환경입니다. OpenAI가 파일, 패키지 및 플러그인을 프로비저닝하고 확장성 및 보안을 처리합니다.
- Self-hosted or partner sandboxes – 자체 VPC 또는 Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop, Vercel과 같은 파트너 플랫폼에 에이전트를 배포할 수 있습니다. 이러한 통합은 사용자 정의 스토리지, 비밀 관리(secret management), 다양한 CPU/GPU/메모리 구성을 지원하여 성능, 콜드 스타트 지연 시간 및 비용을 사용 사례에 맞게 조정할 수 있도록 합니다.
장기 세션 동안 에이전트의 신뢰성을 유지하는 하네스 기능
자동 컨텍스트 압축(Automatic context compaction)
에이전트의 세션이 모델의 컨텍스트 한도에 도달할 때쯤, API는 이전 메시지를 자동으로 압축하여 필수 정보를 보존하면서 새로운 상호작용을 위한 토큰을 확보합니다. 이를 통해 사용자 정의 압축 로직 없이도 여러 컨텍스트 창을 가로지르는 워크플로우를 실행할 수 있습니다.
도구 검색 및 프로그래밍 방식의 호출을 통한 효율적인 도구 사용
- Tool search는 현재 단계에 필요한 도구 정의만 로드하여 모델의 캐시를 따뜻하게 유지하면서 토큰 소비와 비용을 줄입니다.
- Programmatic tool calling은 병렬 실행, 체이닝(chaining) 및 결과 필터링을 지원하여 에이전트가 대량의 데이터를 처리하고 관련 있는 결과만 반환하도록 합니다. API는 MCP, 사용자 정의 함수 및 웹 검색과 같은 내장 도구를 지원합니다.
서브에이전트(subagents)를 통한 병렬성
멀티 에이전트 기능은 기본 에이전트가 복잡한 작업을 독립적인 하위 작업으로 분해하여, 각 작업을 고유한 컨텍스트를 가진 전용 서브에이전트가 처리하도록 합니다. 이는 결과 조율을 담당하는 메인 에이전트가 병렬 실행의 이점을 얻는 연구, 분석 및 코딩 작업을 가속화합니다.
내부의 오픈 소스 Codex 하네스
Agents API는 모델 호출, 도구 호출 및 컨텍스트 관리를 조정하는 공개적으로 사용 가능한 Codex 하네스를 기반으로 구축되었습니다. OpenAI는 하네스를 유지 관리하고 업데이트하며, 개발자는 GitHub에서 소스 코드를 검사하여 동작을 이해하고 개선 사항을 기여할 수 있습니다.
가격 및 가용성
Agents API는 퍼블릭 베타 단계이며 추가 서비스 요금이 발생하지 않습니다. OpenAI의 가격 책정 페이지에 자세히 설명된 대로, 처리된 토큰과 사용된 외부 도구에 대해서만 비용을 ઉપયોગ을 합니다. OpenAI는 개발자들이 베타 기간 동안 피드백을 제공하여 정중식 출시(general availability)을 향한 경로를 형성할 수 있도록 초대합니다.
이것이 중요한 이유
Codex와 ChatGPT for Work를 구동하는 것과 동일한 프로덕션급 하네스를 노출함으로써, Agents API는 신뢰할 수 있는 장기 실행 에이전트를 구축하는 데 드는 엔지니어링 오버헤드를 제거합니다. 개발자는 도메인 특화 도구, 지식 베이스 및 워크플로우에 집중할 수 있으며, 며칠 또는 몇 주 동안 자율적으로 작동하는 정교한 AI 어시스턴트를 구축하는 데 속도를 높일 수 있습니다.
Sources
- OriginalIntroducing the Agents API