Trusted-AI/AIX360

해결하는 문제

AI Explainability 360 (AIX360)는 기계학습의 '블랙박스' 문제를 해결하기 위해 AI 모델의 결정과 데이터셋의 특성을 더 해석 가능하고 투명하게 만들기 위한 포괄적인 도구 세트를 제공합니다. 어떤 설명 방법도 모든 상황에 적합하지 않음을 인식하고, 다양한 데이터 유형과 사용 사례에 맞는 다양한 알고리즘을 제공합니다.

작동 방식

이 툴킷은 제공하는 설명의 유형에 따라 분류된 설명 알고리즘 라이브러리를 제공합니다:

• 데이터 설명: 기반 데이터셋을 설명하기 위한 도구.
• 로컬 사후 설명: 모델을 훈련한 후 개별 예측을 설명하는 방법 (예: LIME, SHAP).
• 시계열 설명: 시계열 데이터 전용 로컬 사후 도구로, 샐리언시 맵과 적응형 LIME 포함.
• 로컬 직접 설명: 모델이 로컬 수준에서 본질적으로 설명 가능한 방식으로 설계된 방법.
• 글로벌 직접 설명: 전체 데이터셋에서 본질적으로 해석 가능한 모델 (예: 부울 결정 규칙).
• 글로벌 사후 설명: 훈련된 모델의 전반적인 행동을 설명하는 방법.
• 인증: Ecertify와 같은 도구를 통해 로컬 설명을 확률적으로 인증.

또한 설명의 품질을 평가하기 위한 대체 지표인 신뢰성과 단조성도 포함되어 있습니다.

대상 사용자

AIX360은 ML 파이프라인에 해석성 기법을 구현해야 하는 데이터 과학자 및 AI 연구자, 그리고 제공된 인터랙티브 경험을 통해 AI 설명성 개념에 쉽게 접근하고 싶은 사용자를 위한 것입니다.

주요 특징

• 다중 모달리티 지원: 테이블, 텍스트, 이미지, 시계열 데이터 모두 지원.
• 포괄적인 분류 체계: 로컬에서 글로벌, 직접에서 사후까지 다양한 설명 알고리즘 포함.
• 확장 가능한 설계: 새 알고리즘과 메트릭을 추가할 수 있도록 설계됨.
• 평가 메트릭: 설명의 신뢰성과 단조성을 측정할 수 있는 내장 메트릭 제공.