xinxuxin/keystone-bench

Keystone Bench – 임상 결정 근거 벤치마크 for 채팅 기반 AI 어시스턴트

이것이 무엇인가

• 의료 채팅 어시스턴트가 의존하는 근거가 변경될 때 어떻게 반응하는지를 측정하는 데이터 세트 및 평가 프레임워크입니다. 각 원본 HealthBench 대화(환자-의사 대화)는 트윈과 쌍을 이룹니다. 트윈은 정확히 하나의 결정적 사실을 변경한 편집 버전입니다(예: 임신 상태 제거, 모순된 검사값 추가, 인구통계학적 속성 변경). 대조군 버전은 사실을 변경하지 않고 원본을 다시 표현합니다.
• 모든 트윈에 대해 벤치마크는 결정 프레임(어떤 결정이 내려지고, 결정이 어떤 사실에 의존하는지)과 근거 상태를 제공하며, 여기에는 다음이 나열됩니다:
  • 어시스턴트가 취해야 할 허용 가능한 조치,
  • 금지된 조치,
  • 어시스턴트가 질문하거나 답해야 할 결정적 질문,
  • 가정해서는 안 되는 사실.
• 인간 임상의가 원본 대화에 대한 루브릭을 작성합니다. 그런 다음 벤치마크는 사실이 누락되거나, 모순되거나, 변경된 후에 모델의 답변이 루브릭을 준수하는지 점수를 매깁니다.

왜 중요한가

• 현재 의료 채팅 벤치마크는 모델이 원본 프롬프트에 대해 올바른 답변을 제공하는지만 확인합니다. 핵심 근거가 없거나 잘못된 경우 모델이 무엇을 해야 하는지는 무시합니다. 이러한 상황은 실제 트리아지에서 자주 발생합니다.
• Keystone은 이러한 격차를 측정 가능하게 만들어 연구자가 근거 민감도(모델이 적절하게 답변을 변경하는지)와 편집에 대한 견고성(답변해서는 안 될 때 계속 답변하는지)을 정량화할 수 있게 합니다.

주요 구성 요소

구성 요소	설명
트윈(총 7,419개)	소스당 4가지 체계적 편집 패밀리: missing_evidence, conflicting_evidence, demographic_shift, salient_distractor(음성 대조군) 및 alternative_evidence와 alternative_evidence_hard와 같은 5가지 선택적 패밀리(임상 임계값을 넘는 숫자 값을 조정).
소스	1,260개의 HealthBench 대화(원본과 바이트 단위로 동일한 다중 턴).
레이어/분할	core, strict, primary, quick – 점점 더 엄격한 하위 집합; dev/test 분할(80/20)은 트윈과 대조군이 분할을 넘나들지 않도록 보장합니다.
참조 결과	5개 상용 어시스턴트(GPT-4.1 심사)의 사전 계산된 답변으로, 사용자가 API 호출 비용을 지불하지 않고 새 모델을 비교할 수 있습니다.
채점기/심사자	모델의 답변을 근거 상태 주석에 매핑하여 허용 가능, 금지, 에스컬레이션 등의 레이블을 생성하는 별도의 LLM(다른 공급업체)입니다.
CLI / Python 라이브러리	pip install keystone-bench로 설치합니다. keystone build, keystone run, keystone audit와 같은 명령은 데이터 구축, 평가 및 전체 감사 보고를 처리합니다.
감사 및 검사	SHA-256 파일 해시, 131개의 단위 테스트, 지름길 감사, 고정 정책이 벤치마크를 속일 수 없도록 보장하는 "퇴화 정책" 검사.

사용 방법

1. 패키지 설치 및 벤치마크를 로컬에서 재구축(오픈소스 HealthBench 데이터를 가져와 게시된 편집을 적용).
2. Python에서 쌍 로드(load_pairs) 또는 keystone pairs로 나열.
3. 각 원본/트윈/대조군 대화에 대해 모델 실행, 별도의 LLM을 심판으로 제공(다른 공급업체여야 함).
4. 레코드 수집 및 summarize 호출 또는 생성된 REPORT.md 검사하여 패밀리별 점수 확인.
5. keystone audit로 전체 실행을 감사 – 예상 효과(트윈-대조군 차이, 대조군 동등성 등)가 유지되는지 확인합니다.

게시된 결과가 보여주는 것

• 빠른 세트(패밀리당 40개 항목)에서 최고 성능 모델(GPT-5.6-terra)은 missing_evidence(누락된 질문 묻기)에서 0.74 성공률, demographic_shift(조언 조정)에서 0.96을 달성했습니다. 음성 대조군 패밀리는 변경 없이 약 0.9-0.95를 유지하여, 벤치마크가 진정한 근거 민감도와 사소한 답변 안정성을 구분할 수 있음을 확인했습니다.
• 보류된 테스트 분할에서 모든 사전 등록 가설(교란 패밀리가 측정 가능한 변화를 일으키고, 대조군이 동등성을 보이는 등)이 강력한 통계적 유의성으로 확인되었습니다.

누가 유용하게 사용할 수 있는가

• 모델이 누락되거나 모순된 정보에 어떻게 반응하는지 엄격하고 임상적으로 근거한 방식으로 테스트해야 하는 의료 챗봇을 구축하는 연구자.
• 내장된 감사, 버전 관리 데이터, 참조 결과를 갖춘 재현 가능한 벤치마크를 원하는 평가 엔지니어.
• 시스템이 환자 데이터의 중요한 공백을 환각하거나 무시하지 않는다는 증거를 찾는 규제 기관 또는 안전 팀.

시작 위치

• 프로젝트 페이지와 연결된 문서(DATA_CARD.md, SCHEMA.md, PROTOCOL.md)를 읽고 패밀리 및 근거 상태의 전체 정의를 확인하세요.
• 저장소를 클론하고, 개발 추가 기능을 설치하고, examples/quickstart.py의 빠른 시작 스크립트를 실행하세요.
• 제공된 참조 실행(results/reference/)을 사용하여 새 모델을 테스트하기 전에 자체 판정기 구현을 검증하세요.

---

위의 모든 세부 사항은 저장소의 README에서 직접 가져온 것이며, 추가 기능은 추론되지 않았습니다.