Trusted-AI/AIX360

Interpretability and explainability of data and machine learning models

What it solves

AI Explainability 360 (AIX360) 提供一套完整的工具包，使机器学习模型和数据集更具可解释性。由于没有单一的解释方法适用于所有场景，库中提供多种算法，帮助用户为其特定的数据类型和使用案例找到合适的方法。

How it works

该工具包实现了多种算法，按解释类型分类如下：

  • Data Explanations: 关注描述底层数据本身。
  • Local Post-hoc Explanations: 在模型训练后解释单个预测（例如 LIME、SHAP）。
  • Time-Series Explanations: 针对时间序列数据的局部事后解释方法。
  • Local Direct Explanations: 在预测过程中直接从模型内部逻辑提供解释。
  • Global Direct Explanations: 使用本身即具可解释性的模型（例如 Boolean Decision Rules）。
  • Global Post-hoc Explanations: 在模型训练后全局解释模型的整体行为。
  • Certification: 包含用于认证局部解释可靠性的工具。

它还包括 Faithfulness 与 Monotonicity 等代理指标，以评估解释质量。

Who it’s for

该库面向数据科学家和 AI 从业者，帮助他们理解、信任并解释机器学习模型在表格、文本、图像和时间序列数据上的决策。

Highlights

  • Multi-modal support: 支持表格、文本、图像和时间序列数据。
  • Extensive algorithm library: 包含从 LIME、SHAP 到专门的时间序列显著性图等广泛技术。
  • Taxonomy-based guidance: 提供分类树和指导材料，帮助用户选择合适的算法。
  • Evaluation metrics: 内置指标可衡量解释的忠实度和单调性。