ZJU-REAL/EasySteer

何を解決するか

EasySteerは、LLMの制御におけるパフォーマンスと拡張性のギャップを解消します。開発者は、モデルの重みを再訓練または変更することなく、推論中に隠れ状態に制御ベクトルを適用することで、モデルの挙動（安全性、推論能力、スタイルなど）を変更できます。同時に、高いサーバー速度を維持します。

仕組み

vLLMの高性能フォークとして構築されたEasySteerは、推論エンジンに直接制御メカニズムを統合しています。制御ベクトル（モデルの隠れ状態空間内の方向）を使用して、モデルの挙動をシフトします。このフレームワークは、隠れ状態、アテンション出力、MoEルーターのロジットをキャプチャするパイプラインを提供し、PCAや線形プロービング、またはネイティブな制御アダプタの学習など、これらのベクトルを抽出するためのツールも備えています。

対象ユーザー

表現工学、モデルの安全性、大規模言語モデルおよび視覚言語モデル（VLM）の行動制御に注力するAI研究者および開発者向けに設計されています。

主な特徴

• vLLM統合: 連続バッチ処理とCUDAグラフのサポートを活用することで、他の制御フレームワークと比較して10.8〜22.3倍の高速化を実現します。
• 細かい制御: トークンレベル、位置固有、複数ベクトルによる制御をサポートします。
• 包括的なツールキット: 内部状態のキャプチャ、制御ベクトルの抽出、アダプタの学習を支援するモジュールを提供します。
• 広範な互換性: 標準的なLLM、VLM、およびMixture-of-Experts（MoE）モデルをサポートします。
• 即時利用可能: 安全性や推論など、8つの異なるドメイン用に事前に計算された制御ベクトルを提供します。