オープンソース LLM を LangChain エージェントとして

オープンソースの大規模言語モデル（LLM）は、エージェントワークフローの効果的な推論エンジンとして機能できる性能の閾値に達しました。Hugging Face のベンチマークによると、Mixtral-8x7B はエージェントシステムに統合された場合、一般的な推論で GPT-3.5 を上回ることができ、関数呼び出しのためのさらなるファインチューニングにより、オープンソースモデルを GPT-4 レベルの性能へ押し上げる可能性が示唆されています。

LLMエージェントとReActフレームワークの理解

LLMエージェントは、観測に基づいて環境上でアクションを実行する中心エンジンとして LLM を使用するシステムです。これらのシステムは通常、認知 $\Rightarrow$ 反省 $\Rightarrow$ 行動 のサイクルを辿って目標を達成し、しばしば計画や知識管理システムで補強されます。

ReAct アプローチ

ReAct（Reasoning and Acting）は、Chain-of-Thought プロンプトとアクション実行を組み合わせたエージェント構築の具体的手法です。モデルは「ステップバイステップ」で考えるように促され、アクションを計画・実行します。内部ループは以下のように動作します：

  1. Thought: LLM は現在の状態を振り返り、次のステップを計画します。
  2. Action: LLM は特定のフォーマット（例：JSON）を使用してツールを呼び出します。
  3. Observation: システムはツールを実行し、結果をプロンプトに戻して付加します。
  4. Final Answer: 十分な情報が集まったら、LLM は最終的な回答を提供します。

エージェントシステムの主要課題

信頼性の高いエージェントを実装するには、3つの主要な技術的ハードルを克服する必要があります：

  • Tool Selection: 提供されたリストから目標達成に向けて適切なツールを選択すること。
  • Argument Formatting: ツール呼び出しのために厳格なフォーマット（例：JSON）を維持し、スペルミスや不正確な引数値を防ぐこと。
  • Information Integration: 収集した観測と初期コンテキストを効率的に活用し、次の推論ステップに反映させること。

LangChain と Hugging Face を用いたエージェントの実装

Hugging Face は ChatHuggingFace ラッパーを LangChain に統合し、オープンソースモデルを使用したエージェント作成を簡素化しました。これにより、開発者は HuggingFaceEndpoint モデルを ReAct スタイルのプロンプトとツールのセット（例：検索用の SerpAPI や計算用の LLM-math）にバインドできます。

AgentExecutor を LangChain で使用することで、モデルは複雑なクエリ（例：世界記録保持者の年齢を調べ、その年齢に対して数学的操作を行う）を、データ検索と計算ツールの使用を繰り返すことで処理できます。

パフォーマンスベンチマーク：オープンソース vs. プロプライエタリモデル

一般的な推論を評価するため、Hugging Face は HotpotQA（インターネット検索）、GSM8K（小学校レベルの数学）、GAIA（汎用 AI アシスタント）からのサンプルを組み合わせたデータセットを用いて複数のモデルをテストしました。

評価されたモデル

  • Open-Source: Llama2-70b-chat、Mixtral-8x7B-Instruct-v0.1、OpenHermes-2.5-Mistral-7B、Zephyr-7b-beta、SOLAR-10.7B-Instruct-v1.0
  • Proprietary: GPT-3.5 と GPT-4（OpenAI 固有の関数呼び出しテンプレートを使用）

主な発見

  • Mixtral-8x7B の優位性: Mixtral-8x7B はベンチマークで GPT-3.5 を上回る非常に優れた性能を示しました。これは、Mixtral がエージェントワークフロー向けに特別にファインチューニングされていないのに対し、GPT-3.5 はそうであった点が注目に値します。
  • モデルのばらつき: オープンソースモデル間で性能に大きな差があり、Mixtral が優秀だった一方で、Llama2-70b はこの特定のエージェントコンテキストで驚くほど低い性能を示しました。
  • ツール使用の影響: エージェントワークフローはモデル性能を大幅に向上させます。例えば、GSM8K の小規模サンプルで、計算機ツールを使用した場合の Mixtral-8x7B のゼロショット性能は 73% に達し、5ショットプロンプトで LLM Leaderboard に報告された 57.6% と比較して高い結果となりました。

改善の可能性

GAIA ベンチマークでの Mixtral の失敗の約 10% は、ツール引数のフォーマットが正しくなかったことが原因です。Hugging Face は、関数呼び出しとタスク計画に特化したファインチューニングにより、オープンソースモデルの性能をさらに向上させ、GPT-4 に挑戦できる可能性があると示唆しています。

Sources