Anthropic, LLM 내 주관적 글로벌 의견 표현을 측정하기 위한 GlobalOpinionQA 프레임워크 도입

TL;DR

Anthropic은 대규모 언어 모델(LLM)의 응답이 국가별 여론과 얼마나 밀접하게 일치하는지를 정량화하기 위한 벤치마크 및 지표인 GlobalOpinionQA를 공개했습니다. 이는 미국 및 일부 유럽 관점에 대한 기본 편향을 드러내며, 편향 완화 도구로서 프롬프팅과 번역의 한계를 강조합니다.

데이터셋 구축: 국가 간 설문 조사 의견 포착

저자들은 다양한 사회적 이슈에 대한 대중의 태도를 조사하는 기존의 국가 간 설문 조사에서 파생된 질문-답변 쌍의 데이터셋인 GlobalOpinionQA를 구축했습니다. 각 항목에는 원래의 설문 질문, 국가별 인간 응답 분포, 그리고 비영어권 언어를 위한 질문의 번역 버전이 포함됩니다. 데이터셋은 Hugging Face(https://huggingface.co/datasets/Anthropic/llm_global_opinions)에 공개적으로 출시되었으며, 대화형 시각화 도구(https://llmglobalvalues.anthropic.com/)가 함께 제공됩니다.

지표 정의: 국가 조건부 의견 유사도

LLM이 특정 인구 집단을 얼마나 잘 반영하는지 평가하기 위해, 논문은 모델이 생성한 답변과 각 국가의 인간 응답의 실증적 분포를 비교하는 유사도 지표를 정의합니다. 지표는 다음과 같이 작동합니다:

  1. 대상 LLM을 사용하여 GlobalOpinionQA 질문에 대한 응답을 생성합니다.
  2. 응답을 설문의 답변 선택지들에 대한 확률 분포로 인코딩합니다.
  3. 이 분포와 국가별 인간 분포 사이의 유사도를 계산합니다(예: 코사인 유사도 또는 KL divergence).
  4. 질문을 통해 점수를 집계하여 국가별 유사도 프로필을 얻습니다.

실험 1 – Helpful-Honest-Harmless LLM의 기본 편향

모델(Anthropic의 Constitutional AI 방식으로 학습됨)이 국가에 대한 어떠한 단서 없이 질문에 답할 때, 그 응답은 미국 응답자들의 의견과 가장 유사했으며, 여러 유럽 및 남미 국가의 의견과도 유사했습니다. 이 기본 패턴은 이러한 지역의 관점들에 대한 내재적 편향을 나타내며, 모델의 학습 데이터나 정렬(alignment) 과정이 이들을 과도하게 대표하고 있음을 시사합니다.

실험 2 – 프롬프트 기반 관점 전환

연구진은 모델에게 특정 국가의 관점을 채택하도록 요청하는 명시적인 프롬프트를 도입했습니다(예: “Answer as if you were a citizen of Japan”). 프롬프트는 대상 인구 집단의 유사도 점수를 성공적으로 전환시켰으며, 이는 모델이 서로 다른 문화적 전망을 반영하도록 유도할 수 있음을 보여줍니다. 그러나, 전환된 응답은 때때로 해로운 문화적 스테레오타입을 재생산하기도 하여, 단순한 프롬프팅이 편향 완화 전략으로서 안전한지에 대한 우려를 제기합니다.

실험 3 – 언어 번역 효과

연구진은 모델에 질문을 던지기 전 GlobalOpinionQA 질문을 각 대상 국가의 모국어로 번역했습니다. 예상과 달리, 번역이 해당 언어 사용자의 의견과 유사도를 일관되게 높여주지는 않았습니다. 이 결과는 단순히 입력값을 현지 언어로 제공하는 것만으로는 모델의 출력을 현지 여론과 일치시키는 데 불충분하다는 것을 시사합니다.

모델 정렬 및 공정성에 대한 시사점

  • 편향 가시화 – 이 프레임워크는 특정 국가의 관점들이 체계적으로 과도하게 대표되는 것을 드러낼 수 있게 하며, 이는 표적 완화 조치를 위한 전제 조건입니다.
  • 프롬프트 엔지니어링의 한계 – 프롬프팅은 의견 유사도를 재가중할 수 있지만, 스테레오타입 성격의 콘텐츠를 증폭폭할 수 있으므로, 표면적인 단서에 의존하는 것 이상의 더 강력한 정렬 기술이 필요함을 나타냅니다.
  • 언어 중심적 접근의 불충분함 – 모델을 현지 문화에에 맞게 정렬하는 것은 단순히 다국어 입력 처리를 넘어, 더 깊은 있는 데이터 다양화와 표현 학습(representation learning)이 필요할 가능성이 높습니다.

커뮤니티를 위한 리소스

결론

Anthropic의 GlobalOpinionQA는 LLM이 주관적인 글로벌 의견을 어떻게 표현하는지 측정하는 최초의 체계적이고 정량적인 도구입니다. 초기 연구 결과는 기본적으로 미국 중심적인 편향을이, 프롬프팅과 번역을 통한 편향 수정의 제한된 효능, 그리고 스테레오타입을 강화할 риск의 위험을 드러냅니다. 이 초기 연구는 데이터셋과 지표를를 통해 연구 커뮤니티가 더 문화적으로 균형 잡힌 안전한 언어 모델을 구축할 수 있도록 초대합니다.

Sources

관련