Zendesk 與 OpenAI：向主動式 AI 代理人轉型以提升客服服務

Zendesk 與 OpenAI 合作，開發新一代主動式 AI 代理人，將客服從僵硬的意圖導向機器人轉變為能夠自主規劃與執行的適應性系統。此轉變旨在將自動化率提升至 80%，並將代理人設定時間從數天縮短至數分鐘。

從意圖導向機器人到適應性推理

傳統的客服自動化依賴意圖分類，系統預測使用者的意圖並觸發預先設定的腳本。當面對細微差異、後續問題或邊緣案例時，該模型常常失效，因為它遵循「訊息輸入，回應輸出」的邏輯。

Zendesk 已將其方法從僅用於 FAQ 的基本檢索增強生成（RAG）演進為生成式推理。這使得 AI 代理人能主導對話、在上下文中推理，並自主推進解決方案，而非遵循靜態的對話流程。

多代理人架構以實現服務解決

為了實現自主解決，Zendesk 採用由 OpenAI 模型（包括 GPT-4o）驅動的多代理人架構。此系統使用專門的代理人處理互動的不同階段：

• 任務識別代理人：進行真實對話以了解使用者需求，並透過澄清問題來區分相似的問題，取代手動訓練。
• 對話式 RAG 代理人：透過多輪對話將回應落實於具體情境，提升傳統 RAG。舉例來說，它可以在取得區域特定政策前，先詢問使用者的所在地。
• 程序編寫代理人：將自然語言的業務規則轉換為結構化流程，確保 AI 的執行符合公司程序。
• 程序執行代理人：根據已定義的業務邏輯，呼叫 API、觸發工作流程並更新系統，以執行相應操作。

混合開發與 AI 推理控制

Zendesk 推出了混合開發模型，使代理人能在對話流程與生成式程序之間無縫切換。企業現在可以使用自然語言定義程序，AI 代理人則以適應性推理規劃其行動路徑。

為確保透明度與可稽核性，Zendesk 提供 AI 推理控制。這些控制讓團隊能即時檢視代理人的思考鏈（CoT），精確了解對話中決策的形成過程。

模型基準測試與部署管線

Zendesk 實施嚴謹的內部基準測試計畫，根據延遲、成本與品質評估模型。此流程包括測試新模型（如 OpenAI 的 o3-mini），以執行從 RAG 到背景推理的各類任務。

• 部署速度：團隊能在 24 小時內完成新模型的評估、測試與部署。
• 效能追蹤：透過離線評估與即時指標（包括解決率、編輯率與延遲）衡量成功。
• 未來擴展：Zendesk 計畫推出自助式基準測試平台，讓工程團隊在不需專業機器學習知識的情況下部署模型。

影響與自動化目標

Zendesk 目前正與早期採用者試行此代理式 AI 平台。該系統旨在與現有環境整合，加速達成 80% 自動化的路徑。早期回饋顯示，設定時間更快，且在所有溝通渠道上回應更為精確。