mmschlk/shapiq

何を解決するか

shapiq は、機械学習モデルの予測における異なる入力特徴間の連携を定量化することで、モデル予測のより包括的な理解を提供することを目的としています。従来のシャープリー値（shap パッケージに含まれるものなど）は個々の特徴の寄与に焦点を当てていますが、shapiq は任意の順序のシャープリー相互作用を計算することで、特徴がどのように協力して予測に影響を与えるかを明らかにします。

動作方法

このライブラリは、ゲーム理論アルゴリズムを実装し、任意の順序のシャープリー相互作用を近似します。標準的なモデルには TabularExplainer を、TabPFN モデルには「削除して再文脈化」のパラダイムを用いた専用の TabPFNExplainer を提供します。多数の特徴を持つ大規模データセットでは、効率性を維持するための ProxySPEX（Proxy SParse EXplainer）近似器も含まれています。

対象ユーザー

ゲーム理論に関する機械学習研究者、およびモデルの予測の内部論理を説明する必要があるエンドユーザーの両方に設計されています。

主な特徴

• 任意の順序の相互作用: 単純な一次寄与を超えた相互作用値を計算します。
• SHAP との統合: 標準的なシャープリー値（SV）を計算し、その後相互作用値（k-SII）に移行できます。
• 専用のExplainer: TabPFN に対する専用のサポートを備えています。
• 可視化ツール: 特徴相互作用の強さを可視化するネットワーク図と、寄与を示すフォースプロットを提供します。
• ベンチマーク機能: 機械学習におけるゲーム理論アルゴリズムのベンチマークツールを含んでいます。