MAIF/shapash

解决的问题

Shapash 旨在让数据科学家和非专家都能更轻松地解释和理解机器学习模型。通过提供清晰的可视化和明确的标签，它弥合了复杂模型输出与人类可读解释之间的鸿沟，减少了分享结果时对技术术语的需求。

工作原理

它作为一个覆盖包运行，利用 SHAP 或 LIME 等可解释性后端来计算特征贡献度。然后，它将这些技术贡献度转换为用户友好的界面，包括用于在全局和局部可解释性之间进行导航的 Webapp，以及用于审计目的的独立 HTML 报告。它支持广泛的模型（例如 Catboost、XGBoost、LightGBM、Scikit-Learn），并与常用的预处理工具（如 ColumnTransformers 和 category-encoders）集成。

适用对象

• 数据科学家：用于快速理解、审计和验证他们的模型。
• 非数据专家：无需深厚的专业知识即可获得模型预测的清晰、摘要式解释。
• 审计与合规团队：通过全面的 HTML 报告进行 AI 治理，从而审查模型行为。

亮点

• 交互式 Webapp：允许在全局特征重要性和局部预测解释之间进行无缝导航。
• 审计报告：生成独立的 HTML 报告，作为模型审计的基础。
• 模型无关：兼容众多流行的 ML 模型，并支持自定义贡献度后端。
• 生产就绪：包含一个 SmartPredictor 对象，可通过 API 或批处理模式部署摘要后的局部解释。
• 可解释性指标：提供使用稳定性、一致性和简洁性指标来评估解释质量的工具。