deel-ai/xplique

何を解決するか

Xplique は、複雑なニューラルネットワークモデルを説明可能にするために設計された Python ツールキットです。最新の説明可能な AI (XAI) メソッドを一元化したライブラリを提供し、開発者や研究者がモデルの意思決定プロセスを理解できるようにします。これにより、「ブラックボックス」AI から脱却できます。

動作方法

このライブラリは、いくつかの専門的なモジュールに分かれています。

• 属性付け手法: Grad-CAM、サリエンシー、統合勾配などの技術を実装し、入力（画像、表形式データ、時系列データ）のどの部分がモデルの出力に最も影響を与えたかを特定します。
• 特徴の可視化: ニューロン、チャネル、またはレイヤーの活性化を最大化する特定の入力を検出することで、ネットワークが「学習した」内容を可視化します。
• 概念: CAV や CRAFT などの手法を用いて、モデルから人間が理解可能な概念を抽出し、特定のクラスとの関連性を検証します。
• メトリクス: 属性付け手法によって生成された説明の忠実性と品質を評価するためのツールを提供します。
• 例ベース: データセットから類似例、対照的（反事実）例、またはプロトタイプ例を取得することで、モデルの振る舞いを説明します。

対象ユーザー

主に TensorFlow（推奨バージョン 2.15 以前）または PyTorch（ラッパー経由）を使用する AI プラクティショナーおよび研究者向けです。モデルの監査、デバッグ、内部論理の説明が必要な場合に最適です。

特徴

• 広範なタスク対応: 分類、回帰、オブジェクト検出、セマンティックセグメンテーションに対応します。
• マルチモーダルデータ対応: 画像、時系列、表形式データをサポートします。
• フレームワークの柔軟性: TensorFlow 用に構築されていますが、TorchWrapper を通じて PyTorch モデルとの統合も可能です。
• 包括的な XAI セット: 属性付け、可視化、概念抽出、定量的メトリクスを一つのツールキットに統合しています。