Choco 使用 AI 代理自动化食品分发

概览

Choco 引入了 AI 代理，以在其食品分发平台上自动化订单捕获和处理，减少了人工工作并实现了 24/7 订单摄入。

OrderAgent

OrderAgent 处理多模态输入，如电子邮件、短信、图像和文档，并通过利用 OpenAI API 进行转录、提取和动态上下文学习（利用每个客户的订单历史和目录来解决歧义），将其转换为结构化的、ERP 就绪的订单。

VoiceAgent

VoiceAgent 由 OpenAI 的 Realtime API 提供动力，使客户能够在电话上以自然方式下单，延迟低于秒级，即使在非工作时间也能实现，实时处理语音转文本和函数调用。

实施与评估

Choco 集成了 OpenAI 的 SDK 和 API，用于语音转文本、嵌入和函数调用，构建了基于真实数据集的严格评估框架，包含持续监控和 A/B 测试，并添加了可选的自动驾驶模式，在达到置信度阈值时自动化订单处理，同时保留对边缘情况的人工审查。

结果

该系统每年处理超过 880 万订单，手动订单录入减少最高可达 50%，生产力提升 2 倍，通过可配置的自动化阈值将错误率保持在 1–5% 以下，并支持 24/7 订单摄入，消除了夜间和周末的延迟。

领导经验

从第一天开始进行评估：即使只有少量的真实数据集（10–20 个示例），也能使团队衡量进展、验证改进并有信心地进行迭代。 投资于 AI 原生可观测性：调试 AI 系统需要的不仅仅是传统日志——捕获模型输入、输出和推理轨迹对于理解和提升性能至关重要。 尽早设定正确的期望：与确定性软件不同，LLM 是概率性的。向团队和用户教育这种差异是建立信任和在采用过程中避免摩擦的关键。

接下来的计划

Choco 计划在食品分发生态系统中扩展其 AI 能力，深化代理在执行复杂运营工作流中的作用，并使非工程师能够充当“代理编排者”，设计和管理推动业务成果的智能系统，同时扩大 OpenAI API 的使用，以在销售、商务和供应链运营中驱动更多自主、感知上下文的系统。