Trusted-AI/AIX360

Interpretability and explainability of data and machine learning models

What it solves

AI Explainability 360 (AIX360) は、機械学習モデルとデータセットをより解釈しやすくするための包括的なツールキットを提供します。単一の説明手法ですべてのシナリオに対応できないため、ライブラリは多様なアルゴリズムを提供し、ユーザーが特定のデータタイプやユースケースに最適なアプローチを見つけられるよう支援します。

How it works

ツールキットは、提供する説明のタイプ別に以下のようにアルゴリズムを実装しています：

  • Data Explanations: データそのものの記述に焦点を当てます。
  • Local Post-hoc Explanations: モデル訓練後に個々の予測を説明します（例：LIME、SHAP）。
  • Time-Series Explanations: 時系列データ向けのローカル事後説明手法です。
  • Local Direct Explanations: 予測時にモデル内部ロジックから直接説明を提供します。
  • Global Direct Explanations: 設計上からして解釈可能なモデルを使用します（例：Boolean Decision Rules）。
  • Global Post-hoc Explanations: 訓練後にモデル全体の振る舞いをグローバルに説明します。
  • Certification: ローカル説明の信頼性を認証するツールを含みます。

また、Faithfulness や Monotonicity といった代理指標を備えており、生成された説明の品質を評価できます。

Who it’s for

表形式、テキスト、画像、時系列データに対して、機械学習モデルの決定を理解し、信頼し、説明する必要があるデータサイエンティストや AI 実務者向けに設計されています。

Highlights

  • Multi-modal support: 表形式、テキスト、画像、時系列データに対応。
  • Extensive algorithm library: LIME や SHAP から専門的な時系列サリエンシーマップまで、幅広い手法を網羅。
  • Taxonomy-based guidance: アルゴリズム選択を支援する分類ツリーとガイダンス資料を提供。
  • Evaluation metrics: 説明の忠実度と単調性を測定する組み込み指標を搭載。