KRLabsOrg/LettuceDetect

해결하는 문제

LettuceDetect는 AI 생성 출력물의 환각(허구)을 식별하기 위한 스팬 수준의 기반 검증기입니다. 기존의 검증기가 전체 답변에 대해 단순한 통과/불합격 판정을 내리는 것과 달리, 이 도구는 제공된 소스 증거에 기반하여 지원되지 않거나 모순되거나 허위로 생성된 정확한 문자 스팬을 식별합니다.

작동 방식

시스템은 토큰 수준 분류를 사용하여 질문과 맥락을 기반으로 답변의 특정 부분이 환각인지 여부를 예측합니다. 주로 두 가지 모델 유형을 제공합니다:

• 인코더 모델 (예: ModernBERT 또는 EuroBERT 기반): 빠르고 로컬에서 실행 가능한 모델로, 스팬별로 이진 환각 플래그를 제공합니다.
• 생성 모델 (예: Qwen-2B 기반): 단일 처리로 환각된 스팬을 식별하고 "모순", "수치" 등과 같은 카테고리로 분류할 수 있는 모델입니다.

대상 사용자

RAG(Retrieval-Augmented Generation) 시스템, 코드 에이전트, 도구 기반 AI 워크플로를 구현하는 개발자들을 위한 것입니다. AI 응답의 사실성 정확도를 보장하기 위해 고정밀 환각 탐지가 필요한 분들에게 적합합니다.

주요 특징

• 스팬 수준 정밀도: 전체 응답을 플래그하는 것이 아니라, 환각된 텍스트의 정확한 문자 오프셋을 식별합니다.
• 언어 다양성: 영어 외에도 독일어, 프랑스어, 스페인어, 이탈리아어, 폴란드어, 중국어 등 여러 언어를 지원합니다.
• 광범위한 적용 가능성: 서사문, 다국어 QA, 코드 에이전트 응답(가짜 API 또는 잘못된 값 탐지), 개발자 도구 출력 등에 적용 가능합니다.
• 유연한 배포: Python API, Web API, Streamlit 데모를 제공하여 쉽게 통합할 수 있습니다.