fairlearn/fairlearn

해결하는 문제

Fairlearn는 AI 시스템 내의 부정확성, 특히 "그룹 공정성"에 초점을 맞춰 설계되었습니다. 개발자가 모델이 특정 그룹에게 악영향을 미치는지 식별하고, 기회나 자원이 차별적으로 제한되는 "할당 피해" 또는 특정 그룹에 대해 시스템의 성능이 낮아지는 "서비스 품질 피해"를 줄이는 데 도움을 줍니다.

작동 방식

이 패키지는 두 가지 주요 도구를 제공합니다:

1. 메트릭스: 모델이 어떤 그룹에 부정적인 영향을 미치는지 평가하고, 공정성과 정확도 메트릭스를 사용해 다양한 모델을 비교하는 도구.
2. 알고리즘: 다양한 공정성 정의에 기반하여 다양한 AI 작업에서 부정확성을 줄이는 완화 알고리즘.

대상 사용자

기계학습 모델의 편향을 정량화하고, 다양한 인구 통계적 그룹 간에 공정한 결과를 보장하기 위해 필요한 AI 개발자 및 데이터 과학자에게 적합합니다.

주요 특징

• 편향을 줄이기 위한 자체적인 완화 알고리즘 보유
• 모델 평가를 위한 메트릭스 제공
• 할당 피해와 서비스 품질 피해 모두에 초점
• 실용적인 사용 예제를 포함한 Jupyter 노트북 포함