zjunlp/EasyEdit

해결하는 문제

EasyEdit은 대규모 언어 모델(LLMs)의 지식 편집을 위한 통합 프레임워크를 제공하여, 모델 전체를 처음부터 재학습할 필요 없이 환각(hallucination) 수정, 편향 제거, 또는 오래된 사실 정보 업데이트를 가능하게 합니다.

작동 원리

이 프레임워크는 모델 수정을 위한 두 가지 주요 접근 방식을 지원합니다:

1. 매개변수 기반 편집 (EasyEdit 1.0): 내부 모델 매개변수를 업데이트하거나 추가 매개변수를 도입하여 특정 지식을 변경합니다(예: 사실 삽입, 업데이트, 삭제).
2. 추론 시 제어 (Inference-time Steering) (EasyEdit 2.0): 추론 중에 LLMs를 실시간으로 제어하여 재학습 없이 동작과 지식을 조절합니다.

ROME, MEMIT, WISE와 같은 다양한 편집 알고리즘을 통합하고 있으며, 여러 데이터셋에서 이러한 편집의 성공 여부를 평가하기 위한 도구를 제공합니다.

대상 사용자

사전 학습된 LLMs의 지식과 동작을 정밀하게 조작해야 하는 AI 연구자 및 개발자, 그리고 평생 모델 편집(lifelong model editing) 및 멀티모달 모델 수정 분야의 종사자를 위해 설계되었습니다.

주요 특징

• 포괄적인 알고리즘 라이브러리: ROME, MEMIT, AlphaEdit, CORE를 포함한 방대한 편집 방법 지원.
• 통합 워크플로우: 매개변수 수정 편집과 실시간 제어 모두에 일관된 인터페이스 제공.
• 평생 편집 (Lifelong Editing): 지속적이고 장기적인 지식 업데이트를 위한 WISE 및 SimIE와 같은 전문적인 방법 포함.
• 멀티모달 지원: 편집 기능을 멀티모달 대규모 언어 모델(MLLMs)로 확장.
• 평가 도구: KnowEdit 벤치마크 및 편집 성능 평가를 위한 자동화 파이프라인 포함.