Circles OpenAI와의 AI-네이티브 통신 스택 통합

Circles는 지원, 개인화 및 운영을 실시간으로 연결하는 AI-네이티브 통신 스택을 구축하기 위해 OpenAI 기술을 통합했습니다. 이 통합을 통해 싱가포르에서 사용자당 평균 매출(ARPU)이 22% 증가하고 이탈률이 9% 감소했으며, 고객 지원 상호작용에 대해 65%의 자율 해결률을 달성했습니다.

AI 컨시어지 및 CareX 아키텍처

Circles의 AI 컨시어지는 OpenAI API로 구동되는 대화형 인터페이스로, 반응형 메뉴 기반 지원을 선제적이고 문맥을 인식하는 참여로 대체합니다. 이 시스템은 검색, 계정 관리 및 개인화된 추천을 단일 사용자 경험으로 통합합니다.

이 인터페이스는 독자적인 멀티 에이전트 아키텍처인 CareX를 통해 구동됩니다. CareX는 오케스트레이션 에이전트(orchestration agent)를 활용하여 고객 이력 및 현재 활동을 분석한 다음, 청구, 구독, 네트워크 관리 및 계정 서비스에 특화된 전문 에이전트에게 요청을 라우팅합니다.

CareX의 주요 성능 지표는 다음과 같습니다:

• 자율 해결률: 현재 고객 서비스 상호작용의 65%가 사람의 개입 없이 해결됩니다.
• 초기 배포: 한 통신사는 배포 첫 주 만에 55%의 자율 해결률에 도달했습니다.
• 향후 목표: Circles는 플랫폼이 실시간 음성 지원으로 확장됨에 따라 95%의 자율 해결률을 목표로 합니다.

Xplore IQ를 통한 초개인화

Xplore IQ는 OpenAI API를 기반으로 구축된 AI 기반 개인화 엔진으로, 행동, 계정 이력 및 실시간 신호를 기반으로 고객에게 가장 관련성 높은 다음 행동을 식별합니다. 광범위한 마케팅 캠페인을 요금제 업그레이드 및 로밍 팩에 대한 초개인화된 추천으로 대체함으로써, Circles는 싱가포르에서 다음과 같은 결과를 달성했습니다:

• ARPU 증가: 더 높은 요금제 업그레이드 및 부가 서비스 구독을 통해 22% 성장했습니다.
• 이탈률 감소: 시의적절하고 관련성 있는 추천 덕분에 고객 이탈률이 9% 감소했습니다.

Codex를 통한 내부 엔지니어링 효율성

Circles는 엔지니어링, 정보 보안(infosec) 및 사고 관리 팀의 개발을 가속화하기 위해 내부적으로 Codex를 사용합니다. Codex를 설계, 코딩 지원 및 단위 테스트에 활용함으로써, 회사는 개발 효율성이 29% 향상되었다고 보고했습니다. 이를 통해 엔지니어들은 더 높은 가치인 제품 혁신에 집중할 수 있게 되었습니다.

거버넌스 및 데이터 보안

통신 환경에서 보안을 유지하기 위해, Circles는 데이터가 모델 레이어에 도달하기 전에 고객 데이터를 보호하는 자동화된 제어 기능을 구현합니다. 이러한 안전장치는 다음과 같습니다:

• PII 암호화: 개인 식별 정보(PII)는 대규모 언어 모델(LLMs)로 전달되기 전에 식별 및 암호화됩니다.
• 제한된 액세스 권한: 전문 에이전트는 고객 프로필 전체에 대한 액세스 권한을 대신하여, 작업을 해결하는 데 필요한 특정 정보만 부여받습니다.
• 운영 제어: 시스템은 확장 시 안정성을 보장하기 위해 사람에 의한 에스컬레이션 경로, 단계적 배포, 속도 제한(rate limits) 및 롤백 메커니즘을 활용합니다.

향후 로드맵

Circles는 CareX의 관찰 가능성(observability)를 강화하고 실시간 음성 지원을 도입하여 고객 상호작용을 더욱 자연스럽고 접근하기 쉽게 만듦으로써 AI-네이티브 스택을 AI-네이티브 스택을 확장해 나가고 있습니다. 장기적인 목표는 전통적인 앱 탐색의 필요성을 없애는 대화형의 문맥 인식 경험을 제공하는 것입니다.