MAIF/shapash

解決的問題

Shapash 旨在讓數據科學家與非專家都能更輕鬆地解釋與理解機器學習模型。透過提供清晰的可視化與明確的標籤，它彌合了複雜模型輸出與人類可讀解釋之間的鴻溝，減少了分享結果時對技術術語的需求。

工作原理

它作為一個覆蓋套件運作，利用 SHAP 或 LIME 等可解釋性後端來計算特徵貢獻度。接著，它將這些技術貢獻度轉換為使用者友好的介面，包括用於在全域與局部可解釋性之間進行導航的 Webapp，以及用於審計目的的獨立 HTML 報告。它支援廣泛的模型（例如 Catboost、XGBoost、LightGBM、Scikit-Learn），並與常用的預處理工具（如 ColumnTransformers 和 category-encoders）整合。

適用對象

• 數據科學家：用於快速理解、審計與驗證他們的模型。
• 非數據專家：無需深厚的專業知識即可獲得模型預測的清晰、摘要式解釋。
• 審計與合規團隊：透過全面的 HTML 報告進行 AI 治理，從而審查模型行為。

亮點

• 互動式 Webapp：允許在全域特徵重要性與局部預測解釋之間進行無縫導航。
• 審計報告：生成獨立的 HTML 報告，作為模型審計的基礎。
• 模型無關：相容於眾多流行的 ML 模型，並支援自定義貢獻度後端。
• 生產就緒：包含一個 SmartPredictor 物件，可透過 API 或批次模式部署摘要後的局部解釋。
• 可解釋性指標：提供使用穩定性、一致性與簡潔性指標來評估解釋品質的工具。