Anthropic、LLMにおける主観的な世界的意見の表現を測定するためのGlobalOpinionQAフレームワークを発表

TL;DR

Anthropicは、大規模言語モデル（LLM）の回答が国別の公衆意見とどの程度一致しているかを定量化するためのベンチマークおよび指標であるGlobalOpinionQAを発表しました。これにより、米国および一部の欧州の視点へのデフォルトのバイアスが明らかになり、バイアス緩和策としてのプロンプトや翻訳の限界が浮き彫りになりました。

データセットの構築：国を越えた調査意見のキャプチャ

著者らは、さまざまな社会的課題に関する公衆の態度を調査する確立された国際調査から派生した、質問と回答のペアからなるデータセットGlobalOpinionQAを構築しました。各エントリには、元の調査質問、国別の人間による回答分布、および非英語言語向けの質問の翻訳版が含まれています。このデータセットはHugging Face（https://huggingface.co/datasets/Anthropic/llm_global_opinions）で公開されており、インタラクティブな可視化ツール（https://llmglobalvalues.anthropic.com/）も提供されています。

指標の定義：国に条件付けられた意見の類似性

LLMが特定の集団をどの程度反映しているかを評価するために、論文では、モデルが生成した回答を各国の人間による回答の経験的な分布と比較する類似性指標を定義しています。指標は次のように機能します：

  1. ターゲットとなるLLMを使用してGlobalOpinionQAの質問に回答を生成する。
  2. 回答を、調査の回答選択肢に対する確率分布としてエンコードする。
  3. この分布と、国別の人間による分布との間で類似性を計算する（例：コサイン類似度またはKLダイバージェンス）。
  4. 質問全体でスコアを集計し、国ごとの類似性プロファイルを取得する。

実験1 – Helpful-Honest-HarmlessなLLMにおけるベースライン・バイアス

（AnthropicのConstitutional AIアプローチでトレーニングされた）モデルが、国に関するいかなるヒントなしに質問に回答した際、その回答は米国、およびいくつかの欧州や南米の諸国の回答者の意見に最も類似していました。このベースラインのパターンは、これらの地域の視点への固有のバイアスを示しており、モデルのトレーニングデータやアライメント（調整）プロセスがそれらを過剰に代表していることを示唆しています。

実験2 – プロンプトによる視点の切り替え

研究者らは、モデルに特定の国の視点を持つように求める明示的なプロンプト（例：「日本の一市民として回答してください」）を導入しました。プロンプトは、ターゲットとなる集団への類似性スコアをシフトさせることに成功しましたが、モデルが異なる文化的展望を反映するように誘導できることを示しました。しかし、シフトされた回答は、時として有害な文化的ステレオタイプを再現してしまうことがあり、単純なプロンプトによるバイアス緩和戦略の安全性に関する懸念が生じました。

実験3 – 言語翻訳の影響

チームは、モデルに問い合わせる前に、GlobalOpinionQAの質問を各ターゲット国の母国語に翻訳しました。予想に反して、翻訳は、その言語の話し手の意見との類似性を一貫して高めることはありませんでした。この結果は、単にローカルな言語で入力を行うだけでは、モデルの出力を現地の公衆の感情と一致させるには不十分であることを示唆しています。

モデルのアライメントと公平性への影響

  • バイアスの可視化 – このフレームワークは、特定の国家的な視点への体系的な過剰表現を表面化させることが可能であり、これは的を絞った是正措置の前提条件となります。
  • プロンプト・エンジニアリングの限界 – プロンプトは意見の類似性を再重み付けすることはできますが、ステレオタイプ的な内容を増幅させてしまう可能性もあり、表面的なヒントなしに、より堅牢なアライメント技術が必要であることを示しています。
  • 言語中心のアプローチは不十分 – モデルを現地の文化に合わせる（アライメント）には、単に多言語入力の対応だけでなく、より深いデータ多様性の確保と表現学習が必要となるでしょう。

コミュニティへのリソース

  • データセット: GlobalOpinionQAは、https://huggingface.co/datasets/Anthropic/llm_global_opinions でダウンロードおよび詳細な分析が可能です。
  • 可視化: インタラクティブなダッシュボードで、国ごとの類似性スコアと実験結果を視覚化できます：https://llmglobalvalues.anthropic.com/。
  • 関連研究: Anthropicのマルチエージェント・システムの・リスク、ワーカーの再教育に関するエ証拠、およびClaudeの数学的推論力の向上に関するより広範な研究は、元の投稿にリンクされています。

結論

AnthropicのGlobalOpinionQAは、LLMが主観的な世界的意見をどのように表現しているかを測定するための、最初の体系的かつ定量的なツールを提供します。初期の調査結果は、デフォルトの米国中心のバイアス、プロンプトや翻訳によるバイアスの修正における限定的な有効性、およびステレオタイプを強化するリスクをあります。データセットと指標を提供することで、Anthropicは、研究コミュニティに対し、より文化的にバランスの取れた、安全な言語モデルのモデル構築を促しています。

Sources

関連