mmschlk/shapiq

해결하는 문제

shapiq는 입력 특징 간의 상호작용을 정량화함으로써 기계학습 모델 예측에 대한 더 포괄적인 시각을 제공하도록 설계되었습니다. 기존의 샤프리 값(예: shap 패키지에 포함된 것들)은 개별 특징의 기여도에 초점을 맞추지만, shapiq는 임의의 차수의 샤프리 상호작용을 계산함으로써 특징들이 어떻게 함께 작용하여 예측에 영향을 미치는지 파악할 수 있도록 확장합니다.

작동 방식

이 라이브러리는 게임 이론 알고리즘을 구현하여 임의의 차수의 샤프리 상호작용을 근사합니다. 표준 모델용으로는 TabularExplainer를 제공하고, TabPFN 모델용으로는 "제거하고 재맥락화" 파라다임을 사용하는 특화된 TabPFNExplainer를 제공합니다. 많은 특징을 가진 대규모 데이터셋의 경우 효율성을 유지하기 위해 ProxySPEX(Proxy SParse EXplainer) 근사기까지 포함하고 있습니다.

대상 사용자

게임 이론과 관련된 기계학습 연구자와 모델 예측의 내부 논리를 설명해야 하는 최종 사용자 모두를 위한 것입니다.

주요 특징

• 임의의 차수 상호작용: 단순한 1차 기여도를 넘어서는 상호작용 값을 계산합니다.
• SHAP 통합: 표준 샤프리 값을 계산한 후, 상호작용 값(k-SII)으로 전환할 수 있습니다.
• 특화된 Explainer: TabPFN에 대한 전용 지원을 포함합니다.
• 시각화 도구: 특징 상호작용의 강도를 시각화하는 네트워크 플롯과 기여도를 위한 포스 플롯을 제공합니다.
• 벤치마킹: 기계학습에서 게임 이론 알고리즘을 평가하기 위한 도구를 포함합니다.