OpenAI 지원 모델: 사용자 지원을 AI 운영 모델로 전환하기

OpenAI는 기존의 티켓 기반 시스템에서 하이퍼그로스를 위해 설계된 AI 운영 모델로 사용자 지원을 전환했습니다. 이 접근 방식은 거래량 처리에 초점을 맞추던 것을 모든 사용자 상호작용이 시스템 전체 성능을 향상시키는 지속적인 학습 루프를 만드는 것으로 전환합니다.

지원을 위한 AI 운영 모델

OpenAI는 지원을 양적 문제라기보다 엔지니어링 및 운영 설계 과제로 봅니다. 조직은 단순한 차단을 위한 챗봇 사용을 넘어, 채팅, 이메일, 전화, 제품에 직접 내장된 도움 기능 등 모든 채널에서의 상호작용이 지속적으로 지원 경험을 알리고 개선하는 시스템으로 전환했습니다.

이 모델은 세 가지 핵심 구성 요소를 기반으로 합니다:

• Surfaces: 채팅, 이메일, 전화, 그리고 제품에 직접 내장된 도움 기능을 포함한 상호작용 지점.
• Knowledge: 정적 문서가 아니라 실제 대화, 정책, 컨텍스트에서 파생된 동적인 가이드 시스템.
• Evals and Classifiers: 인간과 소프트웨어가 만든 품질에 대한 공유 정의로, 측정, 개선 및 피드백 강조에 사용됩니다.

이러한 기본 요소가 모든 서피스를 구동하기 때문에, 한 채널에서 이루어진 개선(예: 기업 대화에서 식별된 패턴)은 자동으로 다른 모든 지원 채널에 확장됩니다.

지원 담당자의 진화하는 역할

이 새로운 모델에서 지원 담당자는 응답자에서 “시스템 사고자” 및 구축자로 전환됩니다. 개별 티켓 해결에만 집중하는 대신, 지원 시스템의 아키텍처에 기여할 수 있도록 권한이 부여됩니다:

• Contributing to Evals: 담당자는 “훌륭한” 지원이 어떤 모습인지 코딩하기 위한 테스트 케이스 역할을 하는 상호작용을 표시합니다.
• Shipping Classifiers: 담당자는 새로운 사용자 패턴을 식별하면 분류기를 제안하고 구현합니다.
• Prototyping Automation: 담당자는 워크플로우 격차를 메우기 위해 경량 자동화를 구축합니다.

Shimul Sachdeva 엔지니어링 매니저는 “Agents aren’t just responding to tickets. They’re informing our knowledge base and our policies.”라고 말합니다.

OpenAI 스택을 통한 기술 구현

OpenAI의 내부 지원 시스템은 자체 개발자 도구 모음을 사용해 구축되어, 새로운 기능을 빠르게 반복하고 통합할 수 있습니다:

• Agents SDK: 단계별 추적 및 가시성을 제공하여 팀이 실행을 재생하고, 도구 호출을 검사하며, 근본 원인을 디버깅할 수 있게 합니다.
• Responses API: 톤, 정확성 및 정책 준수를 모니터링하는 분류기를 구동합니다.
• Realtime API: 음성 지원 구현을 가능하게 합니다.
• Evals Dashboard: 시간이 지남에 따라 품질을 측정하고 시각화할 수 있게 합니다.

간단한 Q&A 시스템으로 시작하여, 팀은 Agents SDK를 활용해 환불 처리, 청구서 관리, 사고 조회와 같은 동적 작업으로 확장했습니다.

학습 누적 및 피드백 루프

시스템은 학습이 시간이 지남에 따라 누적되도록 설계되었습니다. Evals는 일상 대화를 프로덕션 테스트로 전환하여 응답이 정중하고 명확하며 일관되도록 보장합니다. 이 과정은 시스템이 모델이 질문에 답하지 않아야 할 상황을 식별하게 하여 오류를 줄입니다.

이 피드백 루프는 AI를 넘어 조직 전체로 확장됩니다. 전문가들은 모델이 부족한 부분을 식별하고 파인튜닝을 위한 데이터셋을 제공하며, 가시성 대시보드는 성능 향상을 측정 가능한 방식으로 추적합니다. 이러한 통합을 통해 사용자 상호작용에서 도출된 패턴이 지식 베이스, 자동화, 제품 설계에 직접 반영됩니다.