mmschlk/shapiq

解決的問題

shapiq 是為了透過量化不同輸入特徵之間的協同作用，提供機器學習模型預測的更全面視角而設計。傳統的 Shapley 值（例如 shap 套件中的）專注於單一特徵的貢獻，而 shapiq 則透過計算任意階 Shapley 相互作用，讓使用者能看見特徵如何協同影響預測結果。

工作原理

此套件實作了博弈論演算法，以近似任意階 Shapley 相互作用。它提供適用於標準模型的 TabularExplainer，以及針對 TabPFN 模型的專用 TabPFNExplainer，採用「移除並重新語境化」的範式。對於具有大量特徵的大規模資料集，還包含 ProxySPEX（Proxy SParse EXplainer）近似器，以維持效率。

適用對象

專為從事博弈論研究的機器學習研究人員，以及需要解釋模型預測內部邏輯的終端使用者而設計。

主要亮點

• 任意階相互作用：計算超出簡單一階貢獻的交互值。
• 與 SHAP 整合：可計算標準 Shapley 值（SV），並轉換為交互值（k-SII）。
• 專用解釋器：包含對 TabPFN 的專門支援。
• 可視化工具：提供網路圖以視覺化特徵交互強度，以及用於歸因的力圖。
• 基準測試：包含用於在機器學習中基準測試博弈論演算法的工具。