microsoft/responsible-ai-toolbox

何を解決するか

AIシステムを安全かつ倫理的に評価・開発・展開するための包括的なツールセットを提供します。開発者やステークホルダーがモデルの誤りを特定し、その原因を診断し、異なる人口統計グループにおける公平性の問題を検出し、個々の予測の根拠を理解することで、より良いデータ駆動型意思決定が可能になります。

仕組み

このツールボックスは、複数の専門的なオープンソースライブラリを統合し、可視化ウィジェットとダッシュボードのセットとして提供します。Error Analysis でモデルが性能を発揮しないデータコホートを特定し、Fairlearn で公平性を評価し、InterpretML でモデルの解釈可能性を高め、DiCE で逆事実分析（入力の小さな変更が予測にどのように影響するかを示す）を行い、EconML で因果分析により相関と因果関係を区別します。

対象ユーザー

機械学習モデルのデバッグ、公平性の確保、およびテキスト・ビジョン・テーブルデータを含む包括的なモデル評価が必要なAI実務者、モデル開発者、ビジネス関係者。

主な特徴

• 責任あるAIダッシュボード: エラー分析、公平性、解釈可能性、因果分析を統合した単一インターフェース。
• カスタマイズ可能なワークフロー: モデル概要からエラー分析、データ探索へと進むような特定のデバッグ経路を設計可能。
• 広範なモデル対応: Scikit-learnの規約に準拠するモデルに加え、PyTorch、TensorFlow、Kerasも対応。
• マルチモーダルの例: テキスト、ビジョン、テーブルデータにおける分類・回帰モデルのデバッグ用に事前構築されたノートブックを提供。