zjunlp/EasyEdit

解決する課題

EasyEdit は、大規模言語モデル (LLMs) の知識編集のための統合フレームワークを提供します。これにより、モデル全体をゼロから再学習させることなく、ハルシネーションの修正、バイアスの除去、または古い事実情報の更新が可能になります。

仕組み

このフレームワークは、モデル修正のための2つの主要なアプローチをサポートしています：

1. パラメータベースの編集 (EasyEdit 1.0)： 内部モデルパラメータを更新、または追加パラメータを導入することで、特定の知識を変更します（例：事実の挿入、更新、削除）。
2. 推論時のステアリング (Inference-time Steering) (EasyEdit 2.0)： 推論中に LLMs をリアルタイムで制御し、再学習なしで挙動や知識を操作します。

ROME、MEMIT、WISE などの多様な編集アルゴリズムを統合しており、さまざまなデータセット全体でこれらの編集の成功を評価するためのツールを提供します。

対象ユーザー

事前学習済み LLMs の知識や挙動を精密に操作する必要がある AI 研究者や開発者、および継続的なモデル編集やマルチモーダルモデルの修正に取り組んでいる方に最適です。

主な特徴

• 包括的なアルゴリズムライブラリ： ROME、MEMIT、AlphaEdit、CORE を含む、膨大な数の編集手法をサポート。
• 統一されたワークフロー： パラメータ変更による編集とリアルタイムステアリングの両方に対して、一貫したインターフェースを提供。
• 継続的編集 (Lifelong Editing)： WISE や SimIE のような、長期的かつ継続的な知識更新のための専門的な手法を搭載。
• マルチモーダルサポート： 編集機能をマルチモーダル大規模言語モデル (MLLMs) にまで拡張。
• 評価ツール： KnowEdit ベンチマークや、編集パフォーマンスを評価するための自動化パイプラインを同梱。