OpenAI와 함께하는 Decagon 고객 지원 자동화

Decagon은 OpenAI 모델을 조합하여 기업 및 스타트업을 위한 대량 고객 지원을 자동화합니다. 이를 통해 일부 고객은 인간 개입 없이 전 세계 지원 대화의 91%를 처리할 수 있습니다. 이 접근 방식은 기업이 전체 고객 라이프사이클에 걸쳐 수백만 건의 상호작용을 관리하면서 높은 품질과 속도를 유지하도록 합니다.

특화 작업을 위한 다중 모델 아키텍처

Decagon은 각 모델의 고유한 강점을 기반으로 고객 상호작용 파이프라인의 다양한 단계에 특정 OpenAI 모델을 할당함으로써 성능을 최적화합니다. 이러한 아키텍처 유연성은 플랫폼이 복잡한 비즈니스 로직을 포착하고, 대형 언어 모델(LLM)의 등장 이전에는 불가능했던 소프트웨어 영역을 창출할 수 있게 합니다.

모델별 적용 사례

• GPT-3.5 (Fine-tuned): Decagon은 고객 문의를 검색 강화 생성(RAG) 워크플로에 들어가기 전에 재작성하기 위해 GPT-3.5를 특화하여 파인튜닝했으며, 이 특정 작업에서 다른 모델 구성보다 높은 성능을 달성했습니다.
• GPT-4: 이 모델은 API 요청의 효율적인 처리 및 기타 복잡한 작업을 포함한 복합 의사결정 작업에 활용됩니다.
• Broad Model Suite: 플랫폼은 GPT-3.5, GPT-4, GPT-4o, GPT-4 Turbo, 그리고 OpenAI o1-mini를 통합하여 전체 고객 라이프사이클을 관리할 수 있는 에이전트형 봇을 제공합니다.

확장성 및 배포 효율성

Decagon의 인프라는 빠른 배포와 고성능 확장을 가능하게 합니다. 신규 고객의 경우 핵심 인프라를 며칠 내에 운영할 수 있습니다. 이러한 속도는 OpenAI 모델과 Decagon이 맞춤화한 워크플로의 조합 덕분이며, 지연 시간을 최소화합니다—이는 CTO Ashwin Sreenivas가 고객 만족도에 직접적인 영향을 미치는 요소라고 밝힌 바 있습니다.

평가 및 반복

Decagon은 새로운 모델 출시를 신속히 평가함으로써 경쟁 우위를 유지합니다. 회사는 새로운 OpenAI 모델이 출시되는 즉시 통합하기 위해 엄격한 평가 프로세스를 적용하여, 플랫폼이 항상 가장 정확하고 효율적인 버전을 사용하도록 보장합니다.

AI 지원의 향후 방향

Decagon은 현재 고객 요구의 폭을 넓히기 위해 기능을 확장하고 있으며, 특히 음성 기능 탐구에 주력하고 있습니다. 목표는 텍스트 기반 자동화에서 달성한 수준의 자동화와 정확성을 음성 기반 고객 지원 상호작용에도 적용하는 것입니다.