OpenAI의 에이전트 구축을 위한 새로운 도구들

OpenAI는 신뢰할 수 있고 프로덕션 환경에 적합한 AI 에이전트 개발을 단순화하기 위해 설계된 새로운 API 및 도구 세트를 출시했습니다. 이러한 도구들은 에이전트 애플리케이션을 위한 표준화된 빌딩 블록을 제공함으로써, 광범위한 프롬프트 반복 및 복잡한 커스텀 오케스트레이션 로직과 같은 일반적인 개발자 과제들을 해결합니다.

Responses API: 새로운 에이전트 프리미티브

Responses API는 Chat Completions API의 단순함과 Assistants API의 도구 사용 능력을 결합한 새로운 API 프리미티브입니다. 이를 통해 개발자는 단일 API 호출 내에서 여러 도구와 모델 턴을 사용하여 복잡한 작업을 해결할 수 있습니다.

주요 기능 및 통합

  • 통합된 설계: 이 API는 아이템 기반 설계, 단순화된 다형성 및 직관적인 스트리밍 이벤트를 특징으로 합니다.
  • 개발자 헬퍼: 모델 텍스트 출력에 더 쉽게 접근할 수 있도록 response.output_text와 같은 SDK 헬퍼를 포함합니다.
  • 데이터 저장: 트레이싱 및 평가를 통한 성능 평가를 용이하게 하기 위해 OpenAI에 데이터를 저장하는 것을 지원하며, 기본적으로 비즈니스 데이터가 모델 학습에 사용되지 않음을 보장합니다.
  • API 관계: Responses API는 Chat Completions API의 상위 집합입니다. 내장 도구가 필요하지 않은 사용자를 위해 Chat Completions가 계속 지원되지만, OpenAI는 새로운 통합에 Responses API를 권장합니다.

Assistants API로부터의 전환

OpenAI는 Code Interpreter 및 Thread와 같은 객체 지원을 포함하여 Responses API와 Assistants API 간의 완전한 기능 균등화를 위해 노력하고 있습니다. 기능 균등화가 달성되면 Assistants API는 2026년 중반을 목표로 공식적으로 중단(deprecated)될 예정입니다.

내장된 에이전트 도구

Responses API는 모델을 실제 데이터 및 인터페이스에 연결하기 위한 세 가지 주요 내장 도구를 도입합니다.

웹 검색 (Web Search)

웹 검색은 인라인 인용과 함께 빠르고 최신화된 답변을 제공합니다. gpt-4o 및 gpt-4o-mini에서 사용할 수 있으며, ChatGPT 검색에 사용되는 것과 동일한 모델에 의해 구동됩니다.

  • 성능: SimpleQA 벤치마크에서 GPT-4o search preview는 90%, GPT-4o mini search preview는 88%를 기록했습니다.
  • 가용성: Responses API에서 프리뷰로 제공되며, Chat Completions API에서는 gpt-4o-search-preview 및 gpt-4o-mini-search-preview를 통해 미세 조정된 검색 모델에 직접 액세스할 수 있습니다.

파일 검색 (File Search)

파일 검색 도구는 다양한 파일 유형 지원, 쿼리 최적화, 메타데이터 필터링 및 커스텀 리랭킹을 통해 대규모 문서 볼륨에서 정보를 검색할 수 있게 합니다.

  • 사용 사례: Navan은 RAG 파이프라인을 통해 회사 출장 정책 지식 베이스 문서로부터 정확한 답변을 제공하기 위해 파일 검색을 사용합니다.
  • 가격: 1,000회 쿼리당 $2.50, 파일 저장 비용은 GB당 일일 $0.10(첫 1GB 무료)입니다.

컴퓨터 사용 (Computer Use)

Computer-Using Agent (CUA) 모델에 의해 구동되는 이 도구는 에이전트가 마우스 및 키보드 동작을 캡처하여 컴퓨터 작업을 자동화할 수 있도록 합니다.

  • 벤치마크: CUA 모델은 OSWorld에서 38.1%, WebArena에서 58.1%, WebVoyager에서 87%의 성공률을 달성했습니다.
  • 안전성 및 신뢰성: OSWorld에서의 38.1% 성공률로 인해, OpenAI는 브라우저 이외의 환경에 대해서는 인간의 감독을 권장합니다. 안전성 완화 조치에는 프롬프트 인젝션 방지 가드, 민감한 작업에 대한 확인 프롬프트 및 환경 격리 도구가 포함됩니다.

오케스트레이션을 위한 Agents SDK

OpenAI는 단일 에이전트 및 멀티 에이전트 워크플로우의 오케스트레이션을 단순화하기 위해 오픈 소스 Agents SDK를 출시했습니다. 이 SDK는 실험적인 Swarm SDK의 진화된 버전입니다.

핵심 기능

  • Agents: 특정 지침과 도구를 가진 구성 가능한 LLM.
  • Handoffs: 에이전트 간에 제어권을 지능적으로 전달하는 메커니즘.
  • Guardrails: 입력 및 출력 검증을 위한 구성 가능한 안전성 체크.
  • Observability: 에이전트 실행을 시각화하고 디버깅하기 위한 통합 트레이싱 도구.

구현 예시

  • Coinbase: SDK를 사용하여 AgentKit을 구축하여 AI 에이전트가 암호화폐 지갑 및 온체인 활동과 상호작용할 수 있도록 했습니다.
  • Box: 웹 검색과 내부 비정형 데이터를 결합하여 기업에 보안이 유지되고 권한을 인식하는 인사이트를 제공하는 에이전트를 생성했습니다.

호환성

이 SDK는 Responses API와 Chat Completions API를 지원하며, Chat Completions 스타일의 API 엔드포인트를 제공하는 다른 제공업체의 모델과 호환됩니다. 현재 Python에서 사용할 수 있으며, Node.js 지원이 계획되어 있습니다.

Sources