MAIF/shapash

解決する課題

Shapashは、データサイエンティストと非専門家の両方にとって、機械学習モデルをより解釈しやすく、理解しやすくするように設計されています。明確な可視化と明示的なラベルを提供することで、複雑なモデルの出力と人間が理解できる説明との間の溝を埋め、結果を共有する際の専門用語の必要性を減らします。

仕組み

SHAPやLIMEなどの解釈バックエンドを利用して特徴量の寄与度を計算するオーバーレイパッケージとして機能します。その後、これらの技術的な寄与度を、グローバルおよびローカルな説明性を切り替えられるWebアプリや、監査用のスタンドアロンHTMLレポートを含むユーザーフレンドリーなインターフェースに変換します。幅広いモデル（例：Catboost、XGBoost、LightGBM、Scikit-Learn）をサポートし、ColumnTransformersやcategory-encodersのような一般的な前処理ツールと統合できます。

対象者

• データサイエンティスト: モデルを迅速に理解、監査、検証するため。
• 非専門家: 深い技術的知識を必要とせずに、モデルの予測に関する明確で要約された説明を受け取るため。
• 監査・コンプライアンスチーム: AIガバナンスのために、包括的なHTMLレポートを通じてモデルの挙動を確認するため。

ハイライト

• インタラクティブなWebアプリ: グローバルな特徴量の重要度とローカルな予測の説明との間のシームレスなナビゲーションを可能にします。
• 監査レポート: モデル監査の基礎となるスタンドアロンHTMLレポートを生成します。
• モデルに依存しない: 数多くの一般的なMLモデルと互換性があり、カスタムの寄与度バックエンドをサポートします。
• プロダクション対応: APIまたはバッチモードを介して要約されたローカルな説明をデプロイするための SmartPredictor オブジェクトが含まれています。
• 説明性の指標: 安定性、一貫性、および簡潔性の指標を使用して、説明の質を評価するためのツールを提供します。