ファウンデーションモデルは人間のようにデータにラベルを付けることができるか？ Hugging Face 分析
Hugging Face の研究者は、ファウンデーションモデル、特に GPT-4 がデータにラベルを付け、人間の判断の代理としてモデルの好みを評価できるかを調査した。この研究では、GPT-4 が一部の人間のランキングを反映できる一方で、顕著な位置バイアスと簡潔さよりも冗長さを好む傾向があり、人間のアノテーターの完璧な代替とはなり得ないことが明らかになった。
LLM 好み評価の方法論
Hugging Face は、Open LLM Leaderboard を拡張し、Scale AI を通じた人間のラベルと GPT-4 の評価を比較する管理された研究を含めた。研究者は、生成、ブレインストーミング、質問応答、要約、コモンセンス、コーディングなどのカテゴリにわたる高品質で人間が書いたプロンプトの持ち出しセット 327 件を使用した。
4 つのオープンソースモデルが評価された：Vicuna-13B、Koala-13B、OpenAssistant-12B、および Dolly-12B。評価者（人間と GPT-4 の両方）は、1 から 8 の Likert スケールを使用して、2 つのモデルの補完間の好みを示し、1 は最初のモデルへの強い好み、8 は 2 番目のモデルへの好みを表した。
人間 vs. GPT-4 Elo ランキング
人間と GPT-4 の評価者は、モデルの相対ランキングにおいて類似した結果を示したが、その差は異なっていた。両方の結果セットで、Vicuna-13B が常に最高位にランクされ、続いて Koala-13B、OpenAssistant-12B、Dolly-12B が続いた。
人間の Elo 結果（中央値）
| モデル | Elo ランキング（タイなし） | Elo ランキング（タイあり） |
|---|---|---|
| Vicuna-13B | 1140 | 1130 |
| Koala-13B | 1073 | 1061 |
| Oasst-12B | 986 | 988 |
| Dolly-12B | 802 | 820 |
GPT-4 の Elo 結果（中央値）
| モデル | Elo ランキング（タイなし） | Elo ランキング（タイあり） |
|---|---|---|
| Vicuna-13B | 1134 | 1114 |
| Koala-13B | 1082 | 1082 |
| Oasst-12B | 972 | 973 |
| Dolly-12B | 812 | 831 |
LLM ベースの評価における重要なバイアス
この研究では、GPT-4 の評価者としての信頼性に影響を与えるいくつかのシステム的バイアスが特定された：
位置バイアス
GPT-4 は強い位置バイアスを示し、ペアワイズ比較において最初に提示された応答を頻繁に好む（1-8 スケールで「1」と評価する）。これは実際のコンテンツの品質にかかわらず起こる。
冗長さとスタイルバイアス
GPT-4 は、簡潔かつ正確な応答よりも、長く詳細な応答を好む傾向がある。これは、GPT-4 が冗長なモデル応答を「はるかに優れている」と評価し、簡潔かつ正確な人間の応答よりも高く評価する例によって裏付けられる。これは、他の大規模言語モデル（例えば Vicuna）の出力で訓練されたモデルに「スタイルの利益」があることを示唆しており、研究者たちはこれを「意図しないドーピング」と表現している。
人間デモンストレーションのパラドックス
人間が書いたデモンストレーションが評価に含まれたとき、GPT-4 はそれらをいくつかのオープンソースモデル（例えば Vicuna と Koala）よりも低く評価し、これによりモデルが人間スタイルの簡潔さよりも LLM スタイルの冗長さを好む傾向がさらに強調された。
相関とタスクパフォーマンス
GPT-4 と人間のラベルの間の相関は、タスクの種類によって大きく異なる。GPT-4 は、低エントロピーの事実的または技術的なタスクよりも、高エントロピーの創造的なタスクにおいて人間とより一致する。
| カテゴリ | 相関: GPT-4 から人間のラベルへ |
|---|---|
| ブレインストーミング | 0.60 |
| 創造的生成 | 0.55 |
| コモンセンス推論 | 0.46 |
| 質問応答 | 0.44 |
| 要約 | 0.40 |
| 自然言語からコードへ | 0.33 |
LLM 評価のための重要なポイント
- 位置バイアスは持続的：GPT-4 に「de-bias」自身に求めても、しばしばバイアスを反対方向に単純に反転させるだけで、それをなくすわけではない。
- 冗長さ $ eq$ 品質：GPT-4 はトークン数を報酬とし、これが冗長だが役に立たないモデルが簡潔かつ正確なモデルを上回る誤解を招くランキングを引き起こす可能性がある。
- タスク依存の信頼性：LLM ベースの評価は、ブレインストーミングと創造的生成において最も信頼性が高く、コーディングタスクにおいて最も信頼性が低い。
- フォーマットの制限：研究者たちは、ChatGPT のようなモデルが Likert スケールの正しいフォーマットで回答を返すことがしばしば困難であることを指摘し、フォーマットの制御が有用な評価ツールとなるための前提条件であることを示した。