OpenAI Presence: 엔터프라이즈 AI 에이전트 배포 프레임워크
OpenAI Presence: 엔터프라이즈 AI 에이전트 배포 프레임워크
OpenAI는 기업이 문제를 해결하고, 회사 시스템을 사용하며, 승인된 작업을 수행할 수 있는 신뢰할 수 있는 AI 에이전트를 배포하도록 돕기 위해 설계된 제품인 OpenAI Presence를 도입했습니다. 이 시스템은 실험적인 개념 증명에서 신뢰성, 정책 준수 및 통제된 적응이 필요한 고가치 생산 환경으로 AI 에이전트를 이동시키는 과제를 해결합니다.
프로덕션 준비 에이전트 기능
OpenAI Presence는 청구 문제 해결, 보험 청구 지원 또는 직원 IT 서비스 요청 관리와 같은 특정 고가치 워크플로에 대한 에이전트 배포를 가능하게 합니다. 이러한 에이전트는 음성 및 채팅 채널 모두에 배포되어 고객 지원, 아웃바운드 판매 및 고위험 내부 워크플로와 같은 사용 사례를 지원합니다.
To ensure reliability, Presence utilizes a combination of the following components:
- 정책 및 SOP: 에이전트가 수행할 수 있는 작업과 인간 승인이 필요한 시점을 규정하는 정의된 규칙입니다.
- 가드레일: 상호작용이 확립된 회사 경계를 벗어날 때 개입하는 시스템입니다.
- 승인된 작업: 에이전트가 수행할 수 있는 특정하고 승인된 시스템 상호작용입니다.
- 에스컬레이션 규칙: 에이전트가 인간 운영자에게 세션을 넘겨야 하는 명확한 트리거입니다.
- 지식 및 시스템 접근: 에이전트는 특정 업무에 필요한 지식 및 시스템 접근만으로 제한됩니다.
Codex 기반 개선 루프
OpenAI Presence의 핵심 기능은 통제를 희생하지 않고 변화하는 사용자 행동, 제품 및 정책에 적응할 수 있는 능력입니다. 시스템은 출시 후 성능을 유지하기 위해 Codex 기반 개선 프로세스를 사용합니다:
- 신호 감지: 에이전트 성능의 격차를 식별하기 위해 프로덕션 세션, 에스컬레이션 및 품질 신호를 모니터링합니다.
- 제안된 업데이트: Codex가 이러한 신호를 조사하고 에이전트 구성에 대한 특정 업데이트를 제안합니다.
- 테스트 및 승인: 팀은 통제된 롤아웃을 승인하기 전에 현재 프로덕션 버전과 제안된 변경 사항을 테스트할 수 있습니다.
성능 벤치마크 및 기업 채택
OpenAI는 Presence를 사용하여 자체 영어 전화 지원(1-888-GPT-0090)을 구동합니다. OpenAI에 따르면, 이 배포는 다음과 같은 결과를 달성했습니다:
- 해결률: 에이전트는 인간 도움 없이 들어오는 문제의 75%를 해결합니다.
- 품질: 몇 주 안에 에이전트는 전선 인간 지원 품질에 사용되는 벤치마크를 충족하거나 초과했습니다.
- 효율성: Codex 기반 개선 루프는 10일 이내에 인간 인계 비율을 15 퍼센트 포인트 줄였습니다.
Other enterprises currently utilizing the foundation of Presence include BBVA (exploring voice support for banking in Mexico), SoftBank (testing Japanese-language customer conversations), and IAG (exploring support during high-demand weather events).
배포 및 가용성
OpenAI Presence는 자체 서비스 제품이 아닙니다. 제한된 일반 가용성 프로그램을 통해 자격이 있는 기업 고객에게 제공됩니다. 배포는 고객과 협력하여 워크플로를 식별하고 시스템을 연결하며 권한을 설정하는 OpenAI Forward Deployed Engineers(FDE) 및 선정된 글로벌 시스템 통합업체가 관리합니다.
OpenAI continues to support voice customers who prefer to access frontier models directly via the OpenAI API.
Sources
- OriginalIntroducing OpenAI Presence