fairlearn/fairlearn

何を解決するか

Fairlearn は、AI システムにおける不平等を扱うために設計されており、特に「グループ公平性」に焦点を当てています。開発者がモデルによって特定のグループに悪影響を与える問題（たとえば、機会やリソースが差し止められる「割当の不平等」や、特定のグループに対してシステムの性能が劣る「サービス品質の不平等」）を特定し、軽減するのを支援します。

どうやって動くか

このパッケージは以下の2つの主要なツールを提供します：

1. メトリクス：モデルがどのグループに悪影響を与えているかを評価し、公平性と精度のメトリクスを使って異なるモデルを比較するためのツール。
2. アルゴリズム：さまざまな公平性の定義に基づいて、さまざまな AI タスクにおける不平等を軽減するための緩和アルゴリズム。

対象ユーザー

機械学習モデルにおけるバイアスを定量化し、さまざまな人口統計的グループ間で公平な結果を確保するために、AI 開発者やデータサイエンティスト向けに構築されています。

特徴

• バイアスを軽減するための独自の緩和アルゴリズムを備えている
• モデル評価用のメトリクスを提供
• 割当の不平等とサービス品質の不平等の両方に焦点を当てている
• 実用的な使用例を含む Jupyter ノートブックを提供