allenai/reward-bench
RewardBench: the first evaluation tool for reward models.
해결하는 문제
RewardBench는 LLM을 인간 선호에 정렬하는 데 사용되는 보상 모델(RM)의 능력과 안전성을 평가하기 위한 표준화된 방법을 제공합니다. 이는 Direct Preference Optimization(DPO)으로 학습된 모델과 생성형 "LLM-as-a-judge" 모델을 포함해 이러한 모델에 대한 일관된 벤치마킹이 부족한 문제를 해결합니다.
작동 방식
이 프로젝트는 보상 모델이 "chosen"과 "rejected" 응답을 얼마나 잘 구분하는지 테스트하기 위한 도구와 데이터셋 모음을 제공합니다. 포함 내용은 다음과 같습니다:
- 추론 코드: 다양한 보상 모델(예: Starling, PairRM, OpenAssistant)을 실행하기 위한 통합 코드.
- 평가 스크립트: 표준 보상 모델(
run_rm.py), DPO 모델(run_dpo.py), 그리고 업데이트된 RewardBench 2(run_v2.py)를 위한 전용 스크립트.
- 생성형 지원: 로컬 vLLM 추론 또는 API(OpenAI, Anthropic, Google Gemini, Together)를 통해 LLM을 심사자로 사용하는 도구.
- 분석 도구: 결과 시각화, 섹션별 점수(Chat, Safety, Reasoning) 계산, 보상 모델 앙상블 테스트를 위한 유틸리티.
대상 사용자
- AI 연구자: 새로운 보상 모델이나 선호 최적화 기법을 개발하고 테스트하는 사람.
- ML 엔지니어: RLHF 파이프라인에 배포하기 전에 보상 모델의 안전성과 품질을 평가하는 사람.
- 모델 개발자: 공개 리더보드와 자신의 모델을 비교하여 성능을 가늠하는 사람.
하이라이트
- 폭넓은 모델 지원: 시퀀스 분류기, DPO/KTO 모델, 생성형 심사자와 호환됩니다.
- RewardBench 2: "best-of-4" 및 "Ties" 데이터셋을 위한 고급 데이터 처리를 포함합니다.
- 유연한 배포:
uv 또는 pip를 통한 설치를 지원하며, 재현 가능한 연구를 위한 Docker 이미지를 제공합니다.
- 통합: 평가 결과와 모델 메타데이터를 Hugging Face Hub로 직접 푸시할 수 있습니다.
관련
- 프로젝트
MatthewCYM/VoiceBenchVoiceBench는 LLM 기반 음성 어시스턴트를 평가하기 위한 벤치마크 스위트입니다. 음성 기반 QA 및 지시 수행 작업을 포함한 Hugging Face 데이터셋과, 모델을 실행하고 음성 응답을 수집하며 자동으로 점수를 매기는(일부는 GPT-4o-mini를 사용) 명령줄 툴킷을 제공합니다. 결과는 공개 리더보드에 게시되며, 리포지토리에는 최근 음성 어시스턴트 관련 논문 목록도 포함되어 있습니다.
- 프로젝트
stanford-star/relbenchRelBench는 관계형 데이터베이스 기반 딥러닝을 위한 오픈소스 벤치마크 제품군으로, 즉시 로드 가능한 실제 데이터셋, 통합 태스크 API, PyTorch-Geometric 예제, 공개 리더보드를 제공하며 사용자가 간단한 폴더 형식으로 자신의 데이터를 추가할 수 있도록 지원합니다.
- 프로젝트
run-llama/ParseBenchParseBench는 기업용 2,000페이지 데이터셋을 사용하여 테이블, 차트, 콘텐츠 충실도, 의미적 포맷, 시각적 기준의 5가지 차원에서 PDF 파싱 도구를 평가하는 Apache-2.0 벤치마크입니다. CLI, 180개 이상의 사전 구성된 파이프라인(LlamaParse, OpenAI, Anthropic, Google, Azure 등), 결정론적 규칙 기반 메트릭을 제공하며, 인터랙티브 HTML 리포트와 랭킹을 생성합니다.
- 프로젝트
huggingface/optimum-benchmarkOptimum‑Benchmark 는 Transformers, Diffusers, PEFT 등 다양한 백엔드(PyTorch, ONNX Runtime, OpenVINO, vLLM, TensorRT‑LLM, IPEX, Llama‑Cpp, Py‑TXI)와 장치(CPU, CUDA, ROCm, XPU, HPU)에서 추론 및 학습 성능(지연 시간, 메모리, 에너지, 처리량)을 측정하는 Hugging Face 라이브러리입니다. Python API와 Hydra 기반 CLI를 제공하며, 분산 실행을 지원하고 재현 가능한 보고서를 생성하여 Hugging Face Hub에 푸시할 수 있습니다.
- 프로젝트
X-GenGroup/Flow-FactoryFlow‑Factory는 이미지, 비디오, 오디오-비디오 작업에서 디퓨전 및 플로우 매칭 생성 모델에 대한 지도 학습 기반 파인튜닝과 강화학습 스타일 최적화(GRPO, DPO, DPPO 등)를 통합하는 오픈소스 Python 프레임워크입니다. 여러 최신 모델(Stable‑Diffusion 3.5, FLUX 1/2, Qwen‑Image, Wan2.x, MiniMax H3 등)을 지원하며, 유연한 YAML 기반 훈련 파이프라인, 인기 있는 실험 추적 도구 통합, 새로운 모델 또는 데이터셋 추가를 위한 자세한 안내를 제공합니다.