KRLabsOrg/LettuceDetect

解決的問題

LettuceDetect 是一種用於識別 AI 生成輸出中幻覺的細粒度（span-level）驗證器。與傳統驗證器僅對整個回答提供通過／失敗判斷不同，該工具基於提供的來源證據，精確定位出未被支援、矛盾或捏造的具體字元片段。

工作原理

系統使用 token 級別分類來預測在給定上下文和問題的情況下，回答中的特定部分是否為幻覺。它提供兩種主要模型類型：

• 編碼器模型（例如基於 ModernBERT 或 EuroBERT）：快速、可在本地運行的模型，為每個文字片段提供二元幻覺標記。
• 生成式模型（例如基於 Qwen-2B）：可在單次處理中識別並分類幻覺片段，例如歸類為「矛盾」或「數值」等類別。

適用對象

專為實現 RAG（檢索增強生成）系統、程式碼代理和工具驅動型 AI 工作流程的開發者設計，適用於需要高精度幻覺檢測以確保 AI 回答事實準確性的場景。

核心亮點

• 細粒度定位：不只標記整個回答，而是精確定位幻覺文字的字元偏移位置。
• 多語言支援：支援英文及多種其他語言（包括德語、法語、西班牙語、義大利語、波蘭語和中文）。
• 廣泛適用性：適用於散文、多語言問答、程式碼代理回答（檢測虛構 API 或錯誤值）、開發者工具輸出等場景。
• 靈活部署：提供 Python API、Web API 和 Streamlit 演示，便於整合。