Mistral AI Search Toolkit 퍼블릭 프리뷰

Mistral AI가 Search Toolkit을 퍼블릭 프리뷰로 출시했습니다. 이 오픈 소스 컴포저블 프레임워크는 데이터 수집(ingestion), 검색(retrieval), 평가(evaluation)를 공유 인터페이스 아래 통합하여 개발자가 프로덕션 검색 파이프라인을 구축할 수 있도록 하며, 서로 다른 도구들을 결합하는 데 따르는 엔지니어링 오버헤드를 줄여줍니다.

Unified Search Infrastructure

Search Toolkit은 데이터 수집, 검색, 평가가 일반적으로 서로 다른 데이터 가정을 가진 별도의 툴체인에 의존하는 현재 검색 시스템의 파편화 문제를 해결합니다. 이러한 파편화는 종종 몇 주간의 통합 작업을 초래하며, 검색기(retriever)가 올바른 결과를 반환하는지 측정하기 어렵게 만듭니다.

Search Toolkit은 팀이 다음과 같은 작업을 수행할 수 있도록 하는 단일 프레임워크를 제공합니다:

Standardize Ingestion: 새로운 소스마다 파이프라인을 다시 구축할 필요 없이 다양한 소스 유형(예: 내부 위키, 지원 티켓, 코드베이스)에 대해 일관된 처리 및 인덱싱 패턴을 구현합니다.
Isolate Retrieval Quality: 내장된 평가 도구를 사용하여 생성 품질과 독립적으로 검색기 성능을 측정하여, RAG 시스템의 실패가 검색 때문인지 생성 때문인지 팀이 판단할 수 있도록 합니다.
Support Domain-Specific Needs: 법률, 의료 또는 금융 데이터와 같은 전문 분야를 위해 맞춤형 검색 인프라를 처음부터 구축하는 대신 구조화된 대안을 제공합니다.

Technical Components and Capabilities

Search Toolkit은 인프라에 구애받지 않도록 설계되어 클라우드, 온프레미스 또는 에지 환경에서 실행됩니다. 이는 공통 구성 인터페이스를 공유하는 세 가지 주요 모듈로 구성됩니다:

Ingestion

Search Toolkit은 문서 파싱, 청킹(chunking), 임베딩 생성 관리를 담당합니다. 표준 어댑터 인터페이스를 사용하여 사용자 정의 문서 형식 및 전처리 단계를 통합할 수 있습니다.

Retrieval

프레임워크는 다음과 같은 다양한 검색 구성을 지원합니다:

BM25 sparse retrieval
Dense embedding-based retrieval
Hybrid configurations (sparse retrieval과 dense retrieval을 모두 결합)

Evaluation

릴리스마다 품질을 추적하고 구성을 비교하기 위해, 툴킷은 검색 품질을 측정하는 내장 메트릭을 포함합니다. 구체적으로 recall, precision, MRR (Mean Reciprocal Rank), 그리고 NDCG (Normalized Discounted Cumulative Gain)를 측정합니다.

Integration with AI Agents

Search Toolkit은 AI 에이전트를 위한 고품질의 인덱싱된 검색 경로를 제공합니다. 에이전트가 Connectors 및 MCP 통합을 통해 CRM이나 생산성 도구에서 실시간 데이터를 가져올 수 있는 반면, Search Toolkit은 대규모 문서 코퍼스에 대해 저지연 세만틱 검색을 を 수행할 수 있게 합니다.

Real-World Application and Implementation

Search Toolkit은 제조, 공공 부문, 금융 서비스, 미디어 및 엔터테인먼트 수직 계열에서 테스트되었습니다. 예를 들어, CMA CGM은 Voxtral과 함께 툴킷을 사용하여 세 가지 다른 데이터 소스의 오디오를 처리하고 15초 이내에 가짜 뉴스를 탐지하기 위해 툴킷을 사용합니다.

Getting Started

개발자는 GitHub에서 사용할 수 있는 스타터 앱 템플릿을 사용하여 Search Toolkit을 구현할 수 있습니다. 프로젝트 설치를 위해 Docker와 uv가 필요합니다. 템플릿은 다음을 제공합니다:

Pre-configured Vespa indexing
Hybrid retrieval (BM25 + vector)
Sample data and ingestion pipelines

Advanced Optimization

기본 설정 외에도 프레임워크는 다음과 같은 최적화가 가능합니다:

Ingestion Tuning: 특정 파일 유형에 대해 파서, 청킹 전략 및 임베딩 모델을 구성합니다.
Vespa Management: 인덱싱 및 랭킹 프로필을 최적화합니다.
Retrieval Enhancement: LLM query rewriting, reranking, 및 hybrid retrieval을 구현합니다.