Choco 使用 AI 代理自動化食品分銷

總覽

Choco 引入了 AI 代理，自動化其食品分銷平台上的訂單捕獲與處理，減少人工工作並實現 24/7 訂單攝入。

OrderAgent

OrderAgent 處理多模態輸入，例如電子郵件、簡訊、圖像和文件，並透過利用 OpenAI API 進行轉錄、提取和動態上下文學習，將其轉換為結構化、ERP‑ready 訂單，該學習利用每位客戶的訂單歷史和目錄來解決歧義。

VoiceAgent

VoiceAgent 由 OpenAI 的 Realtime API 提供動力，讓客戶能夠以自然方式透過電話下單，延遲低於亞秒，即使在營業時間外也能運作，實時處理語音轉文字和函式調用。

Implementation & Evaluation

Choco 整合了 OpenAI 的 SDK 與 API，用於語音轉文字、嵌入和函式調用，建立了嚴謹的評估框架，包含基準真實資料集、持續監控和 A/B 測試，並加入了一個可選的 Autopilot 模式，在達到信心閾值時自動化訂單處理，同時保留對邊緣案例的人工審閱。

Results

該系統每年處理超過 880 萬筆訂單，手動訂單輸入減少最高可達 50%，生產力提升 2 倍，在可設定的自動化閾值下將錯誤率維持在 1–5% 以下，並支援 24/7 訂單攝入，消除夜間和週末的延遲。

Leadership Lessons

從第一天開始進行評估：即使是小規模的基準真實資料集（10–20 個範例）也能讓團隊衡量進展、驗證改進並有信心地進行迭代。 投資於 AI 原生可觀測性：除傳統日誌外，偵錯 AI 系統還需要捕捉模型輸入、輸出和推理追蹤，這對於理解和提升效能至關重要。 及早設定正確的預期：與確定性軟體不同，LLM 具備機率性。教育團隊和使用者此差異是建立信任並在採用期間避免摩擦的關鍵。

What’s Next

Choco 計畫擴展其 AI 能力於食品分銷生態系統，深化代理在執行複雜運營工作流程中的角色，並使非工程師能夠擔任「代理協調者」，設計和管理推動業務成果的智慧系統，同時擴大其在銷售、商務和供應鏈運營中使用 OpenAI API 來驅動更多自主且具上下文感知的系統。