Trusted-AI/AIX360

解决的问题

AI Explainability 360 (AIX360) 通过提供一套全面的工具，解决了机器学习中的“黑箱”问题，使AI模型的决策及其数据集的性质更加可解释和透明。它认识到没有一种解释方法适用于所有场景，因此提供了多种算法，以适应不同的数据类型和使用案例。

工作原理

该工具包提供了一个按解释类型分类的可解释性算法库：

• 数据解释：用于解释基础数据集的工具。
• 局部事后解释：在模型训练后解释单个预测的方法（例如，LIME、SHAP）。
• 时间序列解释：专用于时间序列数据的局部事后工具，包括显著性图和改进版LIME。
• 局部直接解释：模型在局部层面本质上可解释的方法。
• 全局直接解释：在整个数据集上本质上可解释的模型（例如，布尔决策规则）。
• 全局事后解释：解释训练后模型整体行为的方法。
• 认证：使用Ecertify等工具对局部解释进行概率性认证。

它还包含诸如忠实度和单调性等代理指标，用于评估所生成解释的质量。

适用人群

AIX360专为需要将可解释性技术集成到其ML流水线中的数据科学家和AI研究人员设计，同时也为希望通过提供的交互式体验轻松了解AI可解释性概念的用户而打造。

主要亮点

• 多模态支持：支持表格、文本、图像和时间序列数据。
• 全面的分类体系：涵盖从局部到全局、从直接到事后解释的广泛算法。
• 可扩展设计：设计为允许贡献者添加新的算法和指标。
• 评估指标：提供内置指标，用于衡量解释的忠实度和单调性。