Banque des Territoires、Polyconseil 与 Hugging Face 为 EduRénov 项目部署主权 RAG 解决方案

TL;DR

Banque des Territoires、Polyconseil 与 Hugging Face 已交付了一套主权、开源的检索增强生成（Retrieval‑Augmented Generation，RAG）系统，用于自动化 EduRénov 项目的邮件回复，实现更快速、带来源引用的支持，以推动法国 10,000 所公立学校的生态改造，同时将数据和计算保持在法国控制之下。

执行摘要

Banque des Territoires（BdT，隶属于 Caisse des Dépôts et Consignations）、咨询公司 Polyconseil 与 AI 平台 Hugging Face 的联合项目第一阶段已产出原型 RAG 应用。该工具旨在简化支撑 EduRénov 项目的基于邮件的交互，EduRénov 是法国用于融资和协调 10 000 所公立学校设施能源高效改造的旗舰计划。通过利用开源模型和法国认证的云服务提供商，该解决方案满足严格的数据主权要求，同时展示了生成式 AI 在公共部门工作流中的可扩展性。

为什么 RAG 符合 EduRénov 使命

EduRénov 旨在支持 10 000 项改造项目——约占法国学校基础设施的 20%，并在五年内实现能源消耗降低 40%，该计划得到 20 亿欧元贷款和 5 千万欧元前期工程费用的支持。项目的成功依赖于 BdT 专家、CDC 官员与地方当局之间大量且重复的邮件交流。这些交流基于庞大的共享文档库，使检索增强生成系统成为快速且一致地呈现相关信息的理想方式。

“EduRénov 已经找到了项目和前进的速度；现在我们将提升与地方当局的关系质量，同时寻找更多新项目，”项目负责人 Nicolas Turcat 说。

公共实体对生成式 AI 持谨慎态度，原因在于数据敏感性和主权问题。开源 LLM 生态系统如今已能匹配专有性能，使 CDC 能够试点一个保证主权计算和模型使用的数据转化项目。

确保规模化的性能与主权

对 Hugging Face 开源技术栈（Transformers、Sentence‑Transformers、Tokenizers、Text Generation Inference）的早期实验验证了 RAG 方法的可行性。为满足法国公共部门的安全标准，联盟选择了：

  • Polyconseil – 一家专注于敏捷的数字创新咨询公司，具备认证的本地和云部署专长（AWS Advanced Tier Services 合作伙伴、GCP 云架构师、Kubernetes CKA）。Polyconseil 提供完整的数据科学家、工程师、DevOps、UI/UX 设计师和产品经理团队。
  • Hugging Face – 全球拥有超过 750 000 个模型和 175 000 个数据集的中心，提供 Text Generation Inference（TGI）服务，用于高性能、容器化的 LLM 部署。
  • NumSpot – 法国云服务提供商，拥有 SecNumCloud 认证，基于 Outscale 的 IaaS（达索系统），确保数据驻留和合规性。

因此，该解决方案在法国主权基础设施上运行开源模型，消除了对外国商业 API 的依赖。

动态行业的模块化架构

该应用允许 BdT 代理粘贴收到的潜在邮件，自动生成基于 EduRénov 文档的草稿回复，并让代理在发送前编辑和批准回复。工作流包括以下步骤：

  1. 通过现有渠道接收客户邮件。
  2. 邮件转发至新用户界面。
  3. 编排器构建检索查询。
  4. 检索器从向量数据库（基于嵌入的搜索）中获取相关段落。
  5. 编排器创建包含检索上下文和来源引用的提示。
  6. 阅读器模块（LLM）生成建议回复。
  7. 代理审阅、编辑并验证建议，提供类似 RLHF 的反馈。
  8. 验证后的回复通过消息系统发送。
  9. 收件人收到带有明确来源引用的答案。
  10. 用于验证的已使用文档公共仓库可供查阅。

该流水线由四个子系统支撑：

  • User interface – 文档摄取、微调和 RLHF 数据集创建（green）。
  • Messaging layer – 与现有邮件系统集成（black）。
  • RAG core – 检索和生成组件（purple）。
  • Feedback & training store – 流水线日志、微调数据和 RLHF 反馈（red）。

关键成功因素

  • Model‑agnostic modularity – LLM、嵌入模型和检索方法可通过配置切换，支持在技术前沿演进时快速实验。
  • Modular monolith with hexagonal architecture – 将业务逻辑隔离，同时将 GPU 密集型 LLM 推理委派给外部 TGI 服务。
  • Open‑source French models – 当前使用 Mistral‑7B‑Instruct‑v0.3；其他候选模型如 CroissantLLM（CentraleSupélec 的 MICS 实验室与 Illuin Technology 合作）正评估其法语伦理和性能。
  • Agile ScrumBan team – 单一跨职能小组每周进行 AI 突破简报，由 Hugging Face Expert Support 专家主持，确保知识转移至 BdT 数据团队。
  • Robust evaluation – 早期 MVP 包含使用 RAGAS 库的定性和定量笔记本，提供可复现的基准用于未来改进。

“基于此试点，该方法开启了一条新路径：它很可能成为未来在各地区部署公共政策的方式，并配合国家生态与能源转型所需的融资，”BdT 创新与战略总监 Hakim Lahlou 说。

对公共部门 AI 的影响

该案例展示了主权、开源的生成式 AI 能够在规模上部署于关键公共项目，而不影响数据驻留。通过结合模块化 RAG 流水线、法国认证的云基础设施以及本地训练模型，联盟为其他需要安全、高吞吐量文档中心自动化的政府倡议提供了蓝图。

如果您在 AI 项目中面临主权挑战，请联系 Polyconseil，邮箱 alivia@polyconseil.fr。关于 Hugging Face Expert Support 的咨询，请通过 Hugging Face 销售联系页面进行联系。

Sources