IntelLabs/RAG-FiT
Framework for enhancing LLMs for RAG tasks using fine-tuning.
解决的问题
RAG-FiT（前身为 RAG Foundry）解决了如何改进大型语言模型（LLM）利用外部信息这一挑战。它提供了一个结构化框架，专门针对检索增强生成（RAG）任务微调模型，超越简单的提示工程，优化模型处理和推理检索数据的内部能力。
工作原理
该库由四个模块化组件组成，管理整个 RAG 生命周期：
- 数据集创建：将原始数据处理为 RAG 增强数据集，包括检索、聚合和提示格式化。
- 训练：使用参数高效微调（PEFT）和 TRL 在这些增强数据集上训练模型。
- 推理：使用训练好的模型生成预测。
- 评估：使用一套 RAG 特定指标（如 RAGAS、BERTScore 和自定义逻辑）评估性能。
该框架使用 Hydra 进行配置即代码，允许用户通过分层配置文件和 CLI 覆盖来管理复杂实验。
适用人群
该工具专为需要实验 RAG 配置并通过微调提高 LLM 在知识密集型任务上性能的研究人员和开发者设计。
亮点
- 模块化架构，覆盖从数据准备到评估的完整流程。
- 原生支持 PEFT（参数高效微调），降低训练资源需求。
- 广泛的评估套件，支持 RAGAS、Deepeval 和自定义指标。
- 基于 Hydra 的配置驱动工作流，支持可复现实验，并集成 SLURM 和 Ray 等工具。
相关
- 项目
- 项目
- 项目
- 项目
- Dispatch