Trusted-AI/AIX360

何を解決するか

AI Explainability 360 (AIX360) は、機械学習における「ブラックボックス」問題に対処し、AIモデルの意思決定とそのデータセットの性質をより解釈可能かつ透明にするための包括的なツールセットを提供します。単一の説明手法がすべてのシナリオに適しているわけではないことを認識しており、さまざまなデータタイプやユースケースに適した多様なアルゴリズムを提供しています。

仕組み

このツールキットは、提供する説明の種類に応じて分類された説明アルゴリズムのライブラリを提供しています：

• データ説明: 基盤となるデータセットを説明するためのツール。
• ローカル後処理説明: モデルを訓練した後に個々の予測を説明する手法（例：LIME、SHAP）。
• 時系列説明: 時系列データ専用のローカル後処理ツール、サリエンシーマップや適応版LIMEを含む。
• ローカル直接説明: モデルがローカルレベルで本質的に説明可能であるように設計された手法。
• グローバル直接説明: 全データセット全体で本質的に解釈可能なモデル（例：ブール論理の決定ルール）。
• グローバル後処理説明: 訓練済みモデルの全体的な挙動を説明する手法。
• 証明: Ecertify などのツールで、ローカル説明を確率的に証明する。

また、説明の品質を評価するための代理指標（例：忠実性、単調性）も含まれています。

対象ユーザー

AIX360 は、MLパイプラインに解釈性技術を実装する必要があるデータサイエンティストやAI研究者、および提供されたインタラクティブ体験を通じてAI説明性の概念に親しみたいユーザー向けに設計されています。

特徴

• マルチモーダル対応: テーブルデータ、テキスト、画像、時系列データに対応。
• 包括的な分類体系: ローカルからグローバル、直接から後処理まで、幅広いアルゴリズムを含む。
• 拡張性のある設計: 新しいアルゴリズムやメトリクスの追加を可能にする構造。
• 評価メトリクス: 説明の忠実性と単調性を測定するための組み込みメトリクスを提供。