fairlearn/fairlearn

해결하는 문제

Fairlearn은 AI 시스템의 불공정성을 식별하고 줄이는 과제를 해결합니다. 개발자가 모델의 편향(채용, 대출, 서비스 품질 등에서의 차별적 영향)을 감지하도록 돕고, 이러한 문제를 완화하는 도구를 제공합니다.

작동 방식

이 패키지는 평가를 위한 지표와 완화를 위한 알고리즘이라는 두 가지 주요 구성 요소를 제공합니다. 평가 도구를 통해 개발자는 모델이 다양한 인구 통계 그룹 전반에서 어떻게 작동하는지 정량화할 수 있습니다. 이후 완화 알고리즘을 사용하여 특정 공정성 제약 조건을 충족하도록 모델 동작을 조정함으로써 정확성과 공정성 사이의 균형을 맞추는 데이터 기반 접근 방식을 가능하게 합니다.

대상 사용자

모델의 사회적 영향을 평가하고 시스템이 공정성 표준을 준수하는지 확인해야 하는 데이터 과학자 및 AI 실무자를 위해 설계되었습니다.

주요 특징

• 할당 및 서비스 품질 관련 피해를 감지하기 위한 정량적 지표 제품군을 포함합니다.
• 다양한 AI 작업 전반에서 불공정성을 줄이기 위한 완화 알고리즘을 제공합니다.
• 그룹 공정성 분석을 지원하여 사용자가 특정 인구 통계 그룹 간의 성능을 정의하고 비교할 수 있습니다.
• 공정성 평가 과정을 안내하는 포괄적인 문서, API 참조 및 예제 Jupyter notebooks를 제공합니다.