AIF360: 머신러닝 모델의 알고리즘 편향을 탐지하고 완화하기 위한 확장 가능한 툴킷

해결하는 문제

AI Fairness 360 (AIF360)은 머신러닝 모델에서 발생하는 원치 않는 알고리즘 편향 문제를 다룹니다. 개발자와 연구자가 AI 애플리케이션의 전체 수명 주기 동안 이러한 편향을 탐지, 이해 및 완화할 수 있도록 돕는 포괄적인 툴킷을 제공하며, 연구 수준의 알고리즘을 금융, 의료, 교육과 같은 분야의 실무 도구로 변환합니다.

작동 방식

이 라이브러리는 Python과 R에서 사용할 수 있으며 세 가지 주요 기능을 통해 작동합니다:

1. 편향 탐지: 데이터셋과 모델의 편향을 테스트하기 위해 포괄적인 지표 세트(그룹 공정성, 샘플 왜곡 및 Generalized Entropy Index 포함)를 사용합니다.
2. 설명: 사용자가 편향의 성격을 이해할 수 있도록 이러한 지표에 대한 설명을 제공합니다.
3. 편향 완화: 전처리 기술(Reweighing 및 Disparate Impact Remover와 같은), 인프로세싱 기술(Adversarial Debiasing 및 Prejudice Remover Regularizer와 같은), 그리고 후처리 기술(Equalized Odds Postprocessing과 같은)을 포함하여 편향을 줄이기 위한 다양한 알고리즘을 구현합니다.

대상 사용자

머신러닝 모델이 공정하고 편향되지 않도록 보장해야 하는 데이터 과학자 및 AI 연구자, 특히 인적 자본 관리, 금융, 의료와 같은 고위험 분야에서 작업하는 전문가들을 대상으로 합니다.

주요 특징

• 다국어 지원: Python과 R 모두를 위한 패키지로 제공됩니다.
• 확장 가능한 설계: 커뮤니티가 새로운 지표, 설명 도구, 편향 제거 알고리즘을 기여할 수 있도록 설계되었습니다.
• 광범위한 알고리즘 제품군: 전체 ML 파이프라인(전처리, 인프로세싱, 후처리)에 걸쳐 방대한 범위의 편향 완화 전략을 지원합니다.
• 포괄적인 지표: Differential Fairness 및 Bias Scan with Multi-Dimensional Subset Scan과 같은 고급 지표를 포함합니다.