PAIR-code/lit

解決的問題

LIT 提供了一種視覺化、互動式的機器學習模型理解與除錯方式。它幫助開發者識別模型表現不佳的位置，理解特定預測的原因，並測試模型在不同輸入資料變異下的行為是否一致。

運作方式

LIT 作為瀏覽器為基礎的 UI 運作，可作為獨立伺服器執行，或整合至 Colab 與 Jupyter 等筆記本環境。它與框架無關，支援 TensorFlow 與 PyTorch。使用者可透過工具的 API，使用自訂資料載入器與模型包裝器，連接自己的模型與資料集。

適用對象

需要在分類、迴歸與語言建模等各項任務中，分析與解釋文本、影像與表格資料上相同模型效能的機器學習工程師與研究人員。

主要特色

• 局部解釋：使用顯著性圖與豐富的視覺化來解釋單一預測。
• 聚合分析：支援切片、分箱與嵌入空間視覺化，以大規模分析模型行為。
• 反事實生成：允許使用者手動編輯輸入，或使用外掛程式建立新範例以進行動態評估。
• 並排比較：可比較多個模型，或單一模型對不同範例的回應。
• 可擴充架構：相容於各種模型類型（如 seq2seq、跨度標記等），並支援多頭模型。