Banque des Territoires, Polyconseil, 그리고 Hugging Face, EduRénov 프로그램을 위한 주권 RAG 솔루션 배포

TL;DR

Banque des Territoires, Polyconseil, 그리고 Hugging Face는 EduRénov 프로그램을 위한 주권적이고 오픈소스인 Retrieval‑Augmented Generation (RAG) 시스템을 제공했으며, 이를 통해 10,000개의 프랑스 공립 학교의 친환경 리노베이션을 위한 이메일 응답을 자동화하고, 보다 빠르고 출처가 명시된 지원을 가능하게 하면서 데이터와 컴퓨팅을 프랑스의 통제 하에 유지합니다.

Executive summary

Banque des Territoires (BdT, Caisse des Dépôts et Consignations의 일부), 컨설팅 회사 Polyconseil, 그리고 AI 플랫폼 Hugging Face 간의 공동 프로젝트 1단계에서 프로토타입 RAG 애플리케이션이 제작되었습니다. 이 도구는 EduRénov 프로그램을 뒷받침하는 이메일 기반 상호작용을 효율화하도록 설계되었으며, 이는 10 000개의 공립 학교 시설을 에너지 효율적으로 개보수하기 위한 프랑스의 대표적인 사업입니다. 오픈소스 모델과 프랑스 인증 클라우드 제공자를 활용함으로써, 솔루션은 엄격한 데이터 주권 요구사항을 충족하면서 공공 부문의 워크플로우에 대한 생성 AI의 확장성을 입증합니다.

Why RAG fits the EduRénov mission

EduRénov는 10 000개의 개보수 프로젝트(프랑스 학교 인프라의 약 20 %)를 지원하고 5년 안에 에너지 소비를 40 % 절감하는 것을 목표로 하며, 20억 유로의 대출과 5천만 유로의 사전 엔지니어링 비용이 투입됩니다. 프로그램의 성공은 BdT 전문가, CDC 관계자, 지방 당국 간의 방대한 반복 이메일 교환에 달려 있습니다. 이러한 교환은 방대한 공유 문서 기반을 활용하므로, Retrieval‑Augmented Generation 시스템은 관련 정보를 빠르고 일관되게 찾아내는 이상적인 방법입니다.

"EduRénov는 프로젝트와 추진 속도를 확보했습니다; 이제 우리는 지방 당국과의 관계 품질을 강화하고 새로운 프로젝트를 많이 발굴할 것입니다," 라고 프로그램 디렉터 Nicolas Turcat가 말했습니다.

공공 기관은 데이터 민감도와 주권 문제 때문에 생성 AI에 신중했습니다. 오픈소스 LLM 생태계가 이제 상용 성능에 필적함에 따라, CDC는 주권적인 컴퓨팅과 모델 사용을 보장하는 데이터 변환 프로젝트를 시범 운영할 수 있게 되었습니다.

Ensuring performance and sovereignty at scale

Hugging Face의 오픈소스 스택(Transformers, Sentence‑Transformers, Tokenizers, Text Generation Inference)으로 초기 실험을 진행한 결과, RAG 접근 방식의 실현 가능성이 확인되었습니다. 프랑스 공공 부문의 보안 표준을 충족하기 위해 컨소시엄은 다음을 선택했습니다:

  • Polyconseil – 인증된 온프레미스 및 클라우드 배포 전문성을 갖춘 Agile‑중심 디지털 혁신 컨설팅 기업(AWS Advanced Tier Services 파트너, GCP Cloud Architect, Kubernetes CKA). Polyconseil은 데이터 과학자, 엔지니어, DevOps, UI/UX 디자이너, 제품 매니저 전원을 제공합니다.
  • Hugging Face – 750 000개 이상의 모델과 175 000개 데이터셋을 보유한 글로벌 허브로, 고성능 컨테이너화 LLM 서빙을 위한 Text Generation Inference (TGI) 서비스를 제공합니다.
  • NumSpot – SecNumCloud 인증을 받은 프랑스 클라우드 제공업체로, Outscale(IaaS, Dassault Systèmes) 기반이며 데이터 거주성과 규정 준수를 보장합니다.

따라서 솔루션은 주권 프랑스 인프라 위에서 오픈소스 모델을 실행하여 외국 상업 API에 대한 의존성을 없앱니다.

Modular architecture for a dynamic sector

이 애플리케이션은 BdT 요원이 들어오는 잠재 고객 이메일을 붙여넣으면 EduRénov 문서에서 출처가 명시된 초안 응답을 자동 생성하고, 요원이 이를 편집·승인한 뒤 전송하도록 합니다. 워크플로우는 다음 단계로 진행됩니다:

  1. 기존 채널을 통해 클라이언트 이메일 수신.
  2. 이메일이 새로운 사용자 인터페이스로 전달.
  3. Orchestrator가 검색 쿼리를 생성.
  4. Retriever가 벡터 데이터베이스(임베딩 기반 검색)에서 관련 구절을 가져옴.
  5. Orchestrator가 검색된 컨텍스트와 출처 인용을 포함한 프롬프트를 작성.
  6. Reader 모듈(LLM)이 제안된 회신을 생성.
  7. 요원이 제안을 검토·편집·검증하고 RLHF‑스타일 피드백 제공.
  8. 검증된 회신이 메시징 시스템을 통해 전송.
  9. 수신자는 명시적 출처를 포함한 답변을 받음.
  10. 사용된 문서의 공개 저장소가 검증을 위해 제공됨.

이 파이프라인을 지원하는 네 개의 하위 시스템:

  • User interface – 문서 수집, 파인‑튜닝 및 RLHF 데이터셋 생성 (green).
  • Messaging layer – 기존 이메일 시스템과 통합 (black).
  • RAG core – 검색 및 생성 구성 요소 (purple).
  • Feedback & training store – 파이프라인 로그, 파인‑튜닝 데이터, RLHF 피드백 (red).

Key success factors

  • Model‑agnostic modularity – LLM, 임베딩 모델, 검색 방법을 설정 파일로 교체 가능해 최신 기술 변화에 빠르게 실험할 수 있음.
  • Modular monolith with hexagonal architecture – 비즈니스 로직을 격리하고 GPU‑집약형 LLM 추론을 외부 TGI 서비스에 위임.
  • Open‑source French models – 현재 Mistral‑7B‑Instruct‑v0.3 사용; 프랑스어 윤리·성능을 위한 CroissantLLM(중앙대학(CentraleSupélec) MICS 연구소와 Illuin Technology 협업) 등도 평가 중.
  • Agile ScrumBan team – 단일 크로스‑펑셔널 스쿼드가 Hugging Face Expert Support 전문가가 진행하는 주간 AI‑브레이크스루 브리핑을 진행해 BdT 데이터 팀에 지식 전파.
  • Robust evaluation – 초기 MVP는 RAGAS 라이브러리를 활용한 정성·정량 노트북을 포함해 향후 개선을 위한 재현 가능한 벤치마크 제공.

"이 파일럿을 기반으로, 이 접근 방식은 새로운 경로를 열어줍니다: 앞으로 영토별 공공 정책이 어떻게 배포될지, 그리고 국가의 생태·에너지 전환을 위한 필요한 자금과 함께 말이죠," 라고 BdT 혁신·전략 이사 Hakim Lahlou가 말했습니다.

Implications for public‑sector AI

이 사례 연구는 주권적이고 오픈소스인 생성 AI가 데이터 거주성을 해치지 않으면서도 미션 크리티컬 공공 프로그램에 대규모로 배포될 수 있음을 보여줍니다. 모듈형 RAG 파이프라인, 프랑스 인증 클라우드 인프라, 로컬 학습 모델을 결합함으로써, 컨소시엄은 보안·고처리량 문서 중심 자동화를 필요로 하는 다른 정부 이니셔티브를 위한 청사진을 제공합니다.

AI 프로젝트에서 주권 문제에 직면하셨다면 Polyconseil에 alivia@polyconseil.fr 로 연락하십시오. Hugging Face Expert Support 문의는 Hugging Face 영업 연락 페이지를 통해 진행해 주세요.

Sources