Trusted-AI/AIX360

解決的問題

AI Explainability 360 (AIX360) 透過提供一整套工具，解決機器學習中的「黑箱」問題，使AI模型的決策與其資料集的性質更具可解釋性與透明度。它認知到並非單一解釋方法適用於所有情境，因此提供多種演算法，以符合不同資料類型與使用情境。

工作原理

此工具包提供一個按解釋類型分類的可解釋性演算法庫：

• 資料解釋：用於解釋基礎資料集的工具。
• 局部事後解釋：在模型訓練後解釋單一預測的方法（例如，LIME、SHAP）。
• 時間序列解釋：專用於時間序列資料的局部事後工具，包含顯著性圖與改良版LIME。
• 局部直接解釋：模型在局部層面本質上可解釋的方法。
• 全域直接解釋：在整個資料集上本質上可解釋的模型（例如，布林決策規則）。
• 全域事後解釋：解釋訓練後模型整體行為的方法。
• 認證：使用Ecertify等工具對局部解釋進行機率性認證。

同時也包含忠實度與單調性等代理指標，用以評估所產生解釋的品質。

適用對象

AIX360專為需要將可解釋性技術整合至其ML流程的資料科學家與AI研究人員設計，同時也為希望透過提供的互動式體驗，輕鬆認識AI可解釋性概念的使用者而打造。

主要特色

• 多模態支援：支援表格、文字、影像與時間序列資料。
• 全面的分類體系：涵蓋從局部到全域、從直接到事後解釋的廣泛演算法。
• 可擴充設計：設計為允許貢獻者新增演算法與指標。
• 評估指標：提供內建指標，用以衡量解釋的忠實度與單調性。