Trusted-AI/AIX360
Interpretability and explainability of data and machine learning models
What it solves
AI Explainability 360 (AIX360)은 머신러닝 모델과 데이터셋을 보다 해석 가능하게 만들기 위한 포괄적인 툴킷을 제공합니다. 단일 설명 방법으로 모든 상황을 커버할 수 없기 때문에, 이 라이브러리는 다양한 알고리즘을 제공하여 사용자가 특정 데이터 유형 및 사용 사례에 맞는 적절한 접근 방식을 찾을 수 있도록 돕습니다.
How it works
툴킷은 제공하는 설명 유형에 따라 다음과 같이 다양한 알고리즘을 구현합니다:
- Data Explanations: 데이터 자체를 설명하는 데 초점을 맞춥니다.
- Local Post-hoc Explanations: 모델이 학습된 후 개별 예측을 설명합니다 (예: LIME, SHAP).
- Time-Series Explanations: 시계열 데이터에 특화된 로컬 사후 설명 방법입니다.
- Local Direct Explanations: 예측 중 모델 내부 로직에서 직접 설명을 제공합니다.
- Global Direct Explanations: 설계상부터 해석 가능한 모델을 사용합니다 (예: Boolean Decision Rules).
- Global Post-hoc Explanations: 학습 후 모델 전체 행동을 전역적으로 설명합니다.
- Certification: 로컬 설명의 신뢰성을 인증하는 도구를 포함합니다.
또한 Faithfulness와 Monotonicity와 같은 프록시 메트릭을 제공하여 생성된 설명의 품질을 평가합니다.
Who it’s for
표형, 텍스트, 이미지, 시계열 데이터에 걸쳐 머신러닝 모델의 결정을 이해하고, 신뢰하며, 설명해야 하는 데이터 과학자와 AI 실무자를 위해 설계되었습니다.
Highlights
- Multi-modal support: 표형, 텍스트, 이미지, 시계열 데이터를 지원합니다.
- Extensive algorithm library: LIME 및 SHAP부터 특수 시계열 살리언시 맵에 이르는 다양한 기술을 포함합니다.
- Taxonomy-based guidance: 적절한 알고리즘 선택을 돕는 분류 트리와 가이드 자료를 제공합니다.
- Evaluation metrics: 설명의 충실도와 단조성을 측정하는 내장 메트릭을 포함합니다.