DevRev, GPT-6.1 Sol로 자율 셀프 서비스 제공

TL;DR: OpenAI는 DevRev가 GPT-6.1 Sol 및 GPT-6 Astra를 포함한 OpenAI 모델을 사용하여 기업 셀프 서비스를 위한 Computer 및 Operator 에이전트를 구동하는 방법을 설명하는 고객 스토리를 게시했습니다. 이 스토리가 중요한 이유는 자율 서비스 에이전트를 시스템 문제로 구성하기 때문입니다. 모델 추론은 회사 컨텍스트, 권한, 되돌릴 수 있는 작업, 출처 기반 답변, 허용 가능한 지연 시간 및 비용과 결합되어야 합니다.

DevRev가 OpenAI 모델로 구축한 것

DevRev는 서비스 및 운영 팀이 어려운 고객 및 직원 요청을 완료까지 처리할 수 있도록 Computer와 Operator를 구축했습니다. DevRev 최고 기술 책임자 Ahmed Bashir에 따르면 Computer와 Operator는 실시간 데이터를 추론하고, 되돌릴 수 있는 작업을 수행하며, 답변을 출처로 다시 연결하도록 설계되었습니다.

DevRev는 GPT-6 Astra 및 GPT-6.1 Sol을 포함한 OpenAI 모델을 회사 지식을 연결하고 팀이 에이전트가 수행할 수 있는 작업을 제어할 수 있는 자체 하네스와 결합합니다. OpenAI 모델은 Computer와 Operator 뒤에서 추론, 계획 및 도구 선택을 구동합니다.

DevRev가 추론, 신뢰, 지연 시간 및 비용을 강조하는 이유

DevRev는 모델 선택을 추론 품질, 안정성, 정렬, 지연 시간 및 고객과 직원 서비스 비용 간의 균형으로 평가합니다. Ahmed Bashir는 요구 사항을 단일 벤치마크 결과가 아닌 기능의 조합으로 설명합니다.

"올바른 추론 능력을 갖추고, 신뢰할 수 있고, 높은 정렬을 유지하며, 가장 중요한 것은 지연 시간 측면에서 작동해야 한다는 점의 조합입니다."

— Ahmed Bashir, DevRev 최고 기술 책임자

DevRev는 GPT-6.1 Sol이 평가에서 좋은 성능을 보인다고 말합니다. Bashir는 모델이 고객 또는 직원 요청의 미묘한 차이를 이해하고 지속 가능한 비용으로 신속하게 응답해야 한다고 말합니다. "균형을 완벽하게 잡는 것 같습니다."라고 그는 말합니다.

회사 컨텍스트, 권한 및 Enterprise-Bench

DevRev의 Agent Studio를 사용하면 사용자가 AI와의 대화에서 도구가 작동하는 방식을 설명하고 고정 규칙으로 동작의 일부를 정의할 수 있습니다. 이를 통해 팀은 대화형 지침과 결정적 제어를 결합할 수 있습니다.

DevRev는 회사 컨텍스트를 제공하고, 권한을 적용하며, 작업을 제어하는 소프트웨어와 함께 OpenAI 모델을 테스트합니다. Enterprise-Bench 벤치마크는 데이터에 여러 버전이 있고, 정보가 다른 시스템에 있으며, 액세스가 개인의 역할에 따라 달라질 때 모델과 주변 시스템이 얼마나 잘 작동하는지 평가합니다. DevRev는 GPT-6.1 Sol이 이러한 평가에서 좋은 성능을 보인다고 말합니다.

DevRev 엔지니어링 내 Codex 도입

DevRev의 엔지니어링 팀은 소프트웨어 개발에 Codex를 사용합니다. Bashir는 엔지니어들이 여러 코딩 도구를 탐색한 후 도입이 자연스럽게 성장했다고 말합니다. 인터뷰 시점에 DevRev는 완전히 Codex로 전환하고 Cursor 라이선스를 중단했습니다.

"개발자는 정말 최고의 도구를 찾고 있을 뿐이며, 그들을 속일 수는 없습니다."

— Ahmed Bashir, DevRev 최고 기술 책임자

Bashir는 DevRev 엔지니어들이 Codex를 계속 사용하고 싶다는 점에 대해 단호했다고 말합니다.

"Codex가 단연 최고의 경험이라고 생각합니다."

— Ahmed Bashir, DevRev 최고 기술 책임자

DevRev의 영업 엔지니어는 또한 GPT-6 Astra를 사용하여 국제 컨퍼런스의 회사 부스용 데모를 만듭니다.

Decisions API 및 Ultrafast를 통한 더 빠른 해결

고객 또는 직원이 도움을 요청하면 요청에 따라 Operator가 문제를 이해하고 승인된 작업을 수행하거나, 올바른 사람이 조치를 취할 수 있도록 요청을 Computer로 라우팅해야 할 수 있습니다. Bashir는 Decisions API와 Ultrafast가 모든 단계에서 깊은 추론 없이도 이러한 워크플로우를 빠르게 완료할 수 있는 기회를 보고 있습니다.

일부 결정은 특히 의존하는 정보가 계속 변경될 때 고정 규칙으로 정의하기 어렵고 비용이 많이 듭니다. Bashir는 빌더가 해당 논리를 대화형으로 더 많이 설명하고 각 작업에 적합한 유형의 지능을 선택하기를 원합니다.

"이러한 작업은 몇 분이 아니라 몇 초 안에 실행되고 완료될 수 있어야 합니다."

— Ahmed Bashir, DevRev 최고 기술 책임자

다음 목표: 더 길고 추적 가능한 셀프 서비스

DevRev의 다음 목표는 Operator가 더 길고 까다로운 고객 및 직원 요청을 처리하면서 작업을 추적 가능하고, 권한이 부여되고, 되돌릴 수 있도록 유지하는 것입니다. Bashir는 지식 기반 답변 찾기, 플랜 업그레이드, 환불 받기와 같은 친숙한 지원 작업을 시작에 불과하다고 설명합니다.

"우리는 셀프 서비스의 약속을 진정으로 실현하고 싶습니다."

— Ahmed Bashir, DevRev 최고 기술 책임자

OpenAI의 최첨단 지능을 통해 DevRev는 회사 지식과 개인을 대신하여 행동하는 데 필요한 제어 기능을 갖춘 Computer와 Operator가 더 복잡한 요청을 해결까지 처리하도록 구축하고 있습니다.