IntelLabs/RAG-FiT

解決する課題

RAG-FiT（旧称 RAG Foundry）は、大規模言語モデル（LLM）が外部情報を活用する方法を改善するという課題に取り組みます。検索拡張生成（RAG）タスクに特化してモデルをファインチューニングするための構造化フレームワークを提供し、単純なプロンプトエンジニアリングを超えて、取得データを処理・推論するモデルの内部能力を最適化します。

仕組み

このライブラリは、RAG ライフサイクル全体を管理する 4 つのモジュールコンポーネントで構成されています。

1. データセット作成：生データを RAG 拡張データセットに処理します。検索、集約、プロンプトフォーマットが含まれます。
2. トレーニング：パラメータ効率的ファインチューニング（PEFT）と TRL を使用して、これらの拡張データセットでモデルをトレーニングします。
3. 推論：トレーニング済みモデルを使用して予測を生成します。
4. 評価：RAGAS、BERTScore、カスタムロジックなどの RAG 固有の指標スイートを使用してパフォーマンスを評価します。

このフレームワークは、構成をコードとして管理するために Hydra を使用し、階層的な構成ファイルと CLI オーバーライドを通じて複雑な実験を管理できます。

対象ユーザー

このツールは、RAG 構成を実験し、知識集約型タスクでの LLM パフォーマンスをファインチューニングを通じて向上させる必要がある研究者や開発者向けに設計されています。

ハイライト

• データ準備から評価までの完全なパイプラインをカバーするモジュール式アーキテクチャ。
• PEFT（パラメータ効率的ファインチューニング）のネイティブサポートにより、トレーニングリソース要件を削減。
• RAGAS、Deepeval、カスタム指標をサポートする広範な評価スイート。
• Hydra を使用した構成駆動ワークフローにより、再現可能な実験と SLURM や Ray などのツールとの統合を実現。