Trusted-AI/AIX360

Interpretability and explainability of data and machine learning models

What it solves

AI Explainability 360 (AIX360) 提供一套完整的工具組，讓機器學習模型與資料集更具可解釋性。由於沒有單一的解釋方法能適用於所有情境，該函式庫提供多樣的演算法，協助使用者針對特定資料類型與使用案例找到合適的方法。

How it works

此工具組實作了多種演算法，依說明類型分類如下：

  • Data Explanations: 專注於描述底層資料本身。
  • Local Post-hoc Explanations: 在模型訓練完成後解釋單一預測（例如 LIME、SHAP）。
  • Time-Series Explanations: 為時間序列資料設計的局部事後解釋方法。
  • Local Direct Explanations: 在預測過程中直接從模型內部邏輯提供解釋。
  • Global Direct Explanations: 使用本身即具可解釋性的模型（例如 Boolean Decision Rules）。
  • Global Post-hoc Explanations: 在模型訓練後全域性解釋模型的整體行為。
  • Certification: 包含用於驗證局部解釋可靠性的工具。

它亦提供 Faithfulness 與 Monotonicity 等代理指標，以評估產生之解釋的品質。

Who it’s for

此套件設計給資料科學家與 AI 實務者使用，協助他們理解、信任並說明機器學習模型在表格、文字、影像與時間序列資料上的決策。

Highlights

  • Multi-modal support: 支援表格、文字、影像與時間序列資料。
  • Extensive algorithm library: 包含從 LIME、SHAP 到專門的時間序列顯著性圖等廣泛技術。
  • Taxonomy-based guidance: 提供分類樹與指導資料，協助使用者選擇適當的演算法。
  • Evaluation metrics: 內建指標可衡量解釋的忠實度與單調性。