deel-ai/xplique

解决的问题

Xplique 是一个旨在使复杂神经网络模型可解释的 Python 工具包。它提供了一个集中化的、最先进的可解释人工智能（XAI）方法库，帮助开发者和研究人员理解模型的决策过程，从而摆脱“黑箱”AI的困境。

如何工作

该库分为多个专业模块：

• 属性归因方法：实现 Grad-CAM、显著性（Saliency）和积分梯度等技术，识别输入（图像、表格数据或时间序列）中对模型输出影响最大的部分。
• 特征可视化：寻找能最大化神经元、通道或层激活的特定输入，以可视化网络“学习”到的内容。
• 概念提取：使用 CAV 和 CRAFT 等方法从模型中提取人类可理解的概念，以测试其与特定类别的相关性。
• 评估指标：提供工具来评估属性归因方法生成的解释的忠实度和质量。
• 基于示例的解释：通过从数据集中检索相似、对比（反事实）或原型示例来解释模型行为。

适用人群

主要面向使用 TensorFlow（建议版本 2.15 或更早）或通过包装器使用 PyTorch 的 AI 实践者和研究人员，适用于需要审计、调试或解释神经网络内部逻辑的场景。

主要亮点

• 广泛的任务支持：支持分类、回归、目标检测和语义分割等任务。
• 多模态数据支持：支持图像、时间序列和表格数据。
• 框架灵活性：基于 TensorFlow 构建，但包含 TorchWrapper 以实现 PyTorch 模型的集成。
• 全面的 XAI 套件：将属性归因、可视化、概念提取和定量指标整合到一个工具包中。