microsoft/responsible-ai-toolbox

해결하는 문제

안전하고 윤리적인 AI 시스템 평가, 개발, 배포를 위한 포괄적인 도구 세트를 제공합니다. 개발자와 이해관계자들이 모델 오류를 식별하고, 그 원인을 진단하며, 다양한 인구 통계 그룹 간의 공정성 문제를 탐지하고, 개별 예측의 근거를 이해함으로써 더 나은 데이터 기반 의사결정을 할 수 있도록 지원합니다.

작동 방식

이 도구상자는 여러 전문적인 오픈소스 라이브러리를 통합하여 시각화 위젯과 대시보드 세트로 제공합니다. Error Analysis를 사용해 모델이 성능이 낮은 데이터 코호트를 찾고, Fairlearn로 공정성 평가를 수행하며, InterpretML로 모델 해석 가능성을 높이며, DiCE로 반사적 분석(입력의 미세한 변화가 예측에 어떻게 영향을 미치는지 보여줌)을 수행하고, EconML로 인과 분석을 통해 상관관계와 인과관계를 구분합니다.

대상 사용자

기계학습 모델의 디버깅, 공정성 보장, 텍스트, 비전, 테이블 데이터를 포함한 포괄적인 모델 평가가 필요한 AI 전문가, 모델 개발자, 비즈니스 이해관계자.

주요 기능

• 책임 있는 AI 대시보드: 오류 분석, 공정성, 해석 가능성, 인과 분석을 통합한 단일 인터페이스.
• 사용자 정의 워크플로우: 모델 개요 → 오류 분석 → 데이터 탐색과 같은 특정 디버깅 경로를 설계할 수 있습니다.
• 다양한 모델 지원: Scikit-learn 규약을 따르는 모델은 물론 PyTorch, TensorFlow, Keras도 지원합니다.
• 다중 모달 예제: 텍스트, 비전, 테이블 데이터에서 분류 및 회귀 모델의 디버깅을 위한 사전 구축된 노트북 포함.