tidymodels/lime

해결하는 문제

lime은 머신러닝의 '블랙박스' 문제를 다룹니다. 복잡한 모델(예: 랜덤 포레스트 또는 심층 신경망)은 정확한 예측을 하지만 인간이 해석하기 어렵습니다. 이 패키지는 입력 데이터의 어떤 특징이 해당 결과에 가장 큰 영향을 미쳤는지 식별하여 모델이 특정 예측을 한 이유를 사용자가 이해하도록 돕습니다.

작동 방식

R 프로그래밍 언어로 LIME(Local Interpretable Model-agnostic Explanations) 방법론을 구현합니다. 이 패키지는 모델과 훈련 데이터를 기반으로 '설명자' 객체를 생성합니다. 특정 예측을 설명하도록 요청하면 입력 특징을 분석하고 모델 결정에 가장 많이 기여한 특징을 결정하기 위해 가중치를 계산합니다. 일관된 표 형식으로 이러한 설명을 제공하며 표 형식 데이터, 이미지 및 텍스트를 위한 내장 시각화 도구를 포함합니다.

대상 사용자

R에서 작업하며 예측 모델을 해석하고 디버깅해야 하는 데이터 과학자 및 머신러닝 실무자. 모델에 구애받지 않도록 설계되어 caret, parsnip, mlr과 같은 다양한 모델링 프레임워크와 함께 작동할 수 있습니다.

주요 기능

• 모든 블랙박스 분류기에 대해 모델에 구애받지 않는 설명을 제공합니다.
• 표 형식 데이터, 이미지, 텍스트를 포함한 다양한 데이터 유형을 지원합니다.
• 널리 사용되는 R 모델링 패키지와 원활하게 통합되는 R 관용적 API를 제공합니다.
• 특징 중요도를 플롯하고 영향력 있는 이미지 영역이나 텍스트 세그먼트를 강조하는 내장 시각화 함수를 포함합니다.
• 텍스트 모델 설명을 탐색하기 위한 대화형 Shiny 애플리케이션을 제공합니다.