zjunlp/EasyEdit

解决的问题

EasyEdit 提供了一个用于大型语言模型 (LLMs) 知识编辑的统一框架，允许用户在无需从头开始重新训练整个模型的情况下，修正幻觉、消除偏见或更新过时的事实信息。

运作原理

该框架支持两种主要的模型修改方法：

1. 基于参数的编辑 (EasyEdit 1.0)： 更新内部模型参数或引入额外参数来改变特定知识（例如：插入、更新或删除事实）。
2. 推理时引导 (Inference-time Steering) (EasyEdit 2.0)： 支持在推理过程中对 LLMs 进行实时引导，无需重新训练即可控制行为与知识。

它整合了多种编辑算法（如 ROME、MEMIT 和 WISE），并提供工具来评估这些编辑在不同数据集上的成功率。

适用对象

专为需要精确操纵预训练 LLMs 知识与行为的 AI 研究人员与开发者设计，同时也适用于从事终身模型编辑与多模态模型修改的人员。

特色亮点

• 全面的算法库： 支持多种编辑方法，包括 ROME、MEMIT、AlphaEdit 和 CORE。
• 统一的工作流程： 为参数修改编辑与实时引导提供了一致的接口。
• 终身编辑： 包含如 WISE 和 SimIE 等专门用于持续、长期知识更新的方法。
• 多模态支持： 将编辑能力扩展至多模态大型语言模型 (MLLMs)。
• 评估工具： 包含 KnowEdit 基准测试与用于评估编辑性能的自动化流程。