Bespoke-Minicheck: 지문 기반 사실성 검증을 통한 LLM 환각 현상 감소

Bespoke-Minicheck는 Bespoke Labs에서 개발하고 Ollama에 통합된 지문 기반 사실성 검증 모델입니다. 이 모델은 생성된 주장을 특정 소스 문서가 지지하는지 확인함으로써 LLM의 환각 현상을 줄이며, 이에 대한 이진 응답("예" 또는 "아니오")을 출력합니다.

지문 기반 사실성 검증 메커니즘

Bespoke-Minicheck는 생성된 출력(주장)을 사실 정보(문서)와 비교하는 검증 계층으로 작동합니다. 모델은 소스 문서가 주장에 해당하는지 여부를 판단하며, 해당하면 "예"를, 그렇지 않으면 "아니오"를 출력합니다.

검색 증강 생성(RAG)에서의 적용

Bespoke-Minicheck는 검색 증강 생성(RAG) 파이프라인에서 사용하도록 설계되어, 모델의 응답이 검색된 맥락에 기반하고 있는지 보장합니다. 모델을 후처리 단계로 구현함으로써 개발자는 LLM에 제공된 맥락에 기반하여 최종 응답을 검증함으로써 환각 현상을 탐지할 수 있습니다.

구현 및 사용 방법

Ollama를 통해 Bespoke-Minicheck를 사용하려면 다음 명령어를 실행하면 됩니다:

ollama run bespoke-minicheck

검증을 위해서는 소스 문서와 주장이 모두 포함된 프롬프트 구조가 필요합니다. 예를 들어:

• 지지되는 주장:

  • 문서: 학생들의 그룹이 곧 다가올 기말 시험을 준비하기 위해 학교 도서관에 모여 공부하고 있다.
  • 주장: 학생들은 시험을 준비하고 있다.
  • 결과: 예

• 지지되지 않는 주장:

  • 문서: 학생들의 그룹이 곧 다가올 기말 시험을 준비하기 위해 학교 도서관에 모여 공부하고 있다.
  • 주장: 학생들은 휴가 중이다.
  • 결과: 아니오

기술적 자료

Bespoke Labs와 Ollama는 이 모델을 통합하기 위한 GitHub上的 여러 구현 예제를 제공합니다:

• 사실 검증: 소스 정보에 대한 주장의 간단한 검증.
• RAG 통합: RAG 애플리케이션에서 지문 기반 사실성을 검증하는 예제.