deel-ai/xplique

해결하는 문제

Xplique는 복잡한 신경망 모델을 설명 가능하게 만드는 데 목적을 둔 Python 툴킷입니다. 최신의 설명 가능한 AI(XAI) 기법들을 통합한 중앙 집중형 라이브러리를 제공하여 개발자와 연구자가 모델의 의사결정 과정을 이해할 수 있도록 도와주며, '블랙박스' AI에서 벗어나게 합니다.

작동 방식

이 라이브러리는 여러 전문 모듈로 구성되어 있습니다.

• 속성 부여 방법: Grad-CAM, Saliency, 통합 기울기 등의 기법을 구현하여 입력(이미지, 표 형식 데이터, 시계열 데이터) 중 모델 출력에 가장 큰 영향을 준 부분을 식별합니다.
• 특성 시각화: 특정 입력이 뉴런, 채널 또는 레이어의 활성화를 최대화하도록 찾아내어 네트워크가 "학습한" 내용을 시각화합니다.
• 개념 추출: CAV 및 CRAFT와 같은 방법을 사용해 모델에서 인간이 이해할 수 있는 개념을 추출하여 특정 클래스와의 관련성을 검증합니다.
• 메트릭: 속성 부여 방법이 생성한 설명의 정확성과 품질을 평가할 수 있는 도구를 제공합니다.
• 예제 기반 설명: 데이터셋에서 유사한, 대조적(반사적), 또는 프로토타입 예제를 검색하여 모델의 행동을 설명합니다.

대상 사용자

주로 TensorFlow(권장 버전 2.15 이전) 또는 PyTorch(랩퍼를 통한)를 사용하는 AI 전문가 및 연구자에게 적합합니다. 모델의 감사, 디버깅, 내부 논리 설명이 필요한 경우에 최적입니다.

주요 특징

• 다양한 작업 지원: 분류, 회귀, 객체 탐지, 세그멘테이션 작업 모두 지원합니다.
• 다중 모달 데이터 지원: 이미지, 시계열, 표 형식 데이터를 모두 지원합니다.
• 프레임워크 유연성: TensorFlow 기반으로 개발되었지만, TorchWrapper를 통해 PyTorch 모델과의 통합이 가능합니다.
• 포괄적인 XAI 솔루션: 속성 부여, 시각화, 개념 추출, 정량적 메트릭을 하나의 툴킷에 통합했습니다.