MAIF/shapash

해결하는 문제

Shapash는 데이터 과학자와 비전문가 모두가 머신러닝 모델을 더 쉽게 해석하고 이해할 수 있도록 설계되었습니다. 명확한 시각화와 명시적인 레이블을 제공함으로써 복잡한 모델 출력과 사람이 읽을 수 있는 설명 사이의 간극을 메워주며, 결과를 공유할 때 기술적인 전문 용어의 필요성을 줄여줍니다.

작동 방식

SHAP 또는 LIME와 같은 해석 백엔드를 사용하여 특성 기여도를 계산하는 오버레이 패키지로 작동합니다. 그런 다음 이러한 기술적 기여도를 글로벌 및 로컬 설명성 사이를 탐색할 수 있는 Webapp과 감사용 독립형 HTML 보고서를 포함한 사용자 친화적인 인터페이스로 변환합니다. 다양한 모델(예: Catboost, XGBoost, LightGBM, Scikit-Learn)을 지원하며 ColumnTransformers 및 category-encoders와 같은 일반적인 전처리 도구와 통합됩니다.

대상 사용자

• 데이터 과학자: 모델을 신속하게 이해하고 감사하며 검증하기 위해.
• 비전문가: 깊은 기술적 지식 없이도 모델 예측에 대한 명확하고 요약된 설명을 받기 위해.
• 감사 및 컴플라이언스 팀: AI 거버넌스를 위해 포괄적인 HTML 보고서를 통해 모델 동작을 검토하기 위해.

주요 특징

• 대화형 Webapp: 글로벌 특성 중요도와 로컬 예측 설명 사이를 원활하게 탐색할 수 있습니다.
• 감사 보고서: 모델 감사의 근거로 사용할 수 있는 독립형 HTML 보고서를 생성합니다.
• 모델 불가지론(Model Agnostic): 수많은 인기 ML 모델과 호환되며 사용자 정의 기여도 백엔드를 지원합니다.
• 프로덕션 준비 완료: API 또는 배치 모드를 통해 요약된 로컬 설명을 배포할 수 있는 SmartPredictor 객체가 포함되어 있습니다.
• 설명 가능성 지표: 안정성, 일관성 및 간결성 지표를 사용하여 설명의 품질을 평가하는 도구를 제공합니다.