2024년 선거에서의 알고리즘 편향: TikTok 추천 시스템에 관한 연구

알고리즘 추천 시스템과 정치적 담론의 교차점은 현대 디지털 사회학에서 가장 논쟁적인 분야 중 하나입니다. 수년 동안 전문가들은 인터넷 양극화가 사용자의 자기 선택(이미 가진 견해를 찾는 행위)에 의한 것인지, 아니면 알고리즘이 참여를 극대화하기 위해 극단적인 콘텐츠를 밀어붙이는 '필터 버블' 효과에 의한 것인지에 대해 논쟁해 왔습니다.

뉴욕대학교 아부다비(New York University Abu Dhabi)의 AI and Society Lab에서 Nature에 발표한 최근 연구는 이 문제에 대한 결정적인 증거를 제공합니다. 자동화된 'sock puppet' 감사를 통해 연구진은 사용자 행동으로부터 알고리즘의 영향을 분리해낼 수 있었으며, 2024년 미국 선거 주기 동안 정치적 콘텐츠가 전달되는 방식에서 체계적인 왜곡이 있음을 밝혀냈습니다.

방법론: 알고리즘의 분리

인간의 자기 선택 변수를 제거하기 위해 연구팀은 엄격한 실험 설계를 채택했습니다. 그들은 젊은 성인 유권자(22-24세)를 모방한 323개의 자동화된 봇 계정을 생성했습니다. 지역적 차이로 인해 결과가 왜곡되지 않도록 위치 마스킹 소프트웨어를 사용하여 이 봇들을 뉴욕(민주당), 텍사스(공화당), 그리고 조지아(경합주)에 배치했습니다.

실험은 엄격한 프로토콜을 따랐습니다:

훈련 단계: 봇들에게 특정 정치적 취향을 할당했습니다. 일부는 공화당 성향의 영상을 최대 400개까지 시청했고, 다른 일부는 민주당 성향의 영상을 시청했습니다. 조지아의 대조군은 중립을 유지했습니다.
관찰 단계: 훈련 후, 봇들은 메인 피드에 진입했습니다. 연구진은 27주 동안 총 280,000건의 추천을 통해 모든 추천 영상의 첫 10초를 추적했습니다.
분석: 인간 정치학 전공 학생들이 검증한 AI 언어 모델 앙상블을 사용하여, 팀은 40,264개의 텍스트 트랜스크립트를 분석하여 콘텐츠의 정치적 성향과 주제를 결정했습니다.

주요 결과: 비대칭적 노출

연구는 플랫폼이 정치적 콘텐츠를 처리하는 방식에서 뚜렷한 비대칭성을 발견했습니다. 결과는 TikTok의 피드가 정치를 바라보는 중립적인 창이 아니라, 서로 다른 이데올로기를 다르게 취급하는 창임을 시사합니다.

정당 편향

공화당 콘텐츠로 훈련된 계정은 민주당 계정보다 자신의 정당과 일치하는 콘텐츠를 약 11.5% 더 많이 받았습니다. 반대로, 민주당 계정은 약 7.5% 더 많은 교차 정당 콘텐츠에 노출되었습니다.

결정적으로, 연구진은 이 왜곡이 일반적인 '친공화당' 효과가 아니라, 특히 민주당 성향의 계정에 반민주당 콘텐츠가 밀어붙여지는 방식으로 집중되어 있음을 주목했습니다.

주제 클러스터링

편향은 모든 정치적 이슈에 고르게 퍼져 있지 않았습니다. 비대칭성은 특정 정책 영역을 중심으로 클러스터링되었습니다:

민주당원 대상: 추천은 이민, 범죄, 외교 정책 쪽으로 크게 기울었습니다.
공화당원 대상: 추천은 주로 낙태 문제에 집중되었습니다.

사용자 인식 vs. 알고리즘의 현실

봇 실험 결과를 검증하기 위해 연구진은 1,008명의 활성 미국 TikTok 사용자들을 대상으로 설문조사를 실시했습니다. 설문조사 결과, 실제 경험은 자동화된 결과와 일치했습니다. 공화당 응답자들은 자신의 견해와 일치하는 긍정적인 정치적 콘텐츠를 보는 경향이 훨씬 더 높았으며, 보수적 사용자들은 피드에서 낙관적이고 친트럼프(pro-Trump) 성향의 게시물이 증가했다고 자주 언급했습니다.

결과 해석: 의도 vs. 결과

결과가 극명하지만, 연구진은 노출과 영향력을 구분하는 데 주의를 기울였습니다. 교신 저자인 Talal Rahwan이 언급했듯이, 이 연구는 설득이 아닌 노출을 측정하는 것이며, 이러한 패턴이 개인의 투표에 어떤 변화를를 주었는지 확정적으로 말할 수는 없습니다.

또한, 연구팀은 결과가 TikTok의 의도적인 행위가 아니라 결과로서 나타난 패턴임을 강조했습니다. 다음과 같은 몇 가지 요인으로 인해 '수동으로 저울울을 조작하는' 행위 없이도 왜곡이 발생할 수 있습니다:

콘텐츠 공급: 선거 주기 동안 제작자들이 만든 참여도가 높은 반민주당 영상의 공급이 더 강력했을 수 있습니다.
참여 지표: 한 커뮤니티 관찰자가 언급했듯이, '감정적으로 자극하는' 또는 '감정적 훅(emotional hooks)'을 포함하는 콘텐츠는 콘텐츠의 정치적 성향과 관계없이 벡터 임베딩 기반 알고리즘에서 더 쉽게 트렌드에 됩니다.
사용자 이력력: 봇은 신규 사용자를 시뮬레이션했습니다. 깊은 참여 이력을 가진 장기 사용자는 다른 추천 패턴을 경험할 수 있습니다.

결론

이 연구는 알고리즘 피드가 중립적이라고 가정하는 것의 위험성을 강조합니다. 편향이 의도적인 프로그래밍에서 비롯되었는지, 아니면 참여 중심 최적화의 부산물인지, 혹은 단순한 콘텐츠 공급의 불균형에서 비롯되었는지에 관계없이, 결과적으로 이데올로기적 스펙트럼 전반의 사용자들에게 정치적 정보 환경에 체계적인 차계를이 있습니다.