deel-ai/xplique

解決的問題

Xplique 是一個專為使複雜神經網路模型具備可解釋性而設計的 Python 工具包。它提供一個集中式的先進可解釋人工智慧（XAI）方法庫，協助開發者與研究人員理解模型的決策過程，從「黑箱」AI 的困境中走出來。

如何運作

此套件由多個專業模組組成：

• 屬性歸因方法：實作 Grad-CAM、顯著性（Saliency）與整合梯度等技術，識別輸入（影像、表格資料或時間序列）中對模型輸出影響最大的部分。
• 特徵可視化：尋找能最大化神經元、通道或層激活的特定輸入，以可視化網路「學到」的內容。
• 概念提取：使用 CAV 與 CRAFT 等方法從模型中提取人類可理解的概念，以測試其與特定類別的相關性。
• 評估指標：提供工具，用以評估屬性歸因方法所產生解釋的忠誠度與品質。
• 基於範例的解釋：透過從資料集中檢索相似、對比（反事實）或原型範例，來解釋模型行為。

適用對象

主要針對使用 TensorFlow（建議版本 2.15 或更早）或透過包裝器使用 PyTorch 的 AI 實務者與研究人員，適用於需要審計、除錯或解釋神經網路內部邏輯的場景。

主要亮點

• 廣泛的任務支援：支援分類、迴歸、物件偵測與語意分割等任務。
• 多模態資料支援：支援影像、時間序列與表格資料。
• 框架彈性：基於 TensorFlow 建構，但內建 TorchWrapper 以支援 PyTorch 模型整合。
• 全面的 XAI 套件：將屬性歸因、可視化、概念提取與定量指標整合於單一工具包中。