Anthropic 2024년 선거 및 AI 관찰 보고서

Anthropic은 Claude.ai 및 API 전체 사용량 중 선거 관련 활동이 0.5% 미만이었으며, 미국 선거 직전 몇 주 동안은 1%를 약간 상회하는 수준으로 증가했다고 보고했습니다. 이는 생성형 AI가 주요 선거 주기 동안 널리 보급되었음에도 불구하고, 선거 관련 질의에 대한 실제 사용량은 전체 모델 상호작용의 아주 작은 부분에 불과함을 나타냅니다.

선거 안전 프레임워크 및 집행

Anthropic은 2024년 내내 선거 관련 리스크를 완화하기 위해 세 가지 측면의 안전 접근 방식을 구현했습니다:

• 정책 집행: 회사의 Usage Policy는 선거 개입, 캠페인 활동, 후보자 또는 정당 홍보, 기부금 요청, 허위 정보 생성 등을 금지합니다. 2024년 5월, 이러한 정책은 유권자 타겟팅, 사칭, 영향력 행사 캠페인을 구체적으로 다루기 위해 확장되었습니다.
• 엄격한 테스트: Anthropic은 외부 전문가와 함께 12회 이상의 정책 취약점 테스트(타겟형 레드팀 활동)를 실시했습니다. 이 테스트는 유해한 질의에 대한 거부율, 후보자 간의 형평성, 부정확한 정보 탐지 등에 집중했습니다. 인도, 남아프리카 공화국, 멕시코, 영국, 프랑스, EU 의회 선거를 대상으로 정기적인 테스트를 수행했으며, 미국 선거 기간 동안에는 허위 정보 내러티브에 대한 일일 테스트를 실시했습니다.
• 권위 있는 참조처 안내: 투표 정보를 찾는 사용자는 미국의 TurboVote/Democracy Works, 영국의 UK Electoral Commission, 프랑스의 행정 선거 웹사이트와 같은 비당파적 출처로 안내되었습니다.

전 세계적으로 Anthropic은 경고 및 반복 위반자에 대한 계정 차단 등 약 100건의 선거 관련 집행 조치를 취했습니다. 회사는 챗봇이 일대일 상호작용을 통해 작동하고 현재는 텍스트만 출력하므로 딥페이크 위협이 제거된다는 점에서, 소셜 미디어보다 챗봇의 증폭 리스크가 더 낮다고 언급했습니다.

Clio 도구를 통한 사용량 분석

Anthropic은 실제 언어 모델 사용량을 분석하기 위해 Clio라는 새로운 자동화 도구를 활용했습니다. Clio는 가공되지 않은 대화를 추상화된 주제 클러스터로 추출하여 모델이 어떻게 사용되거나 오용되는지에 대한 통찰을 제공합니다.

미국 선거 사용량 분석(11월 2일~8일) 결과, 선거 관련 대화의 약 3분의 2는 다음과 같은 요청을 포함했습니다:

• 정치 체제, 정책, 시사 문제 및 정치적 이슈를 분석하고 설명하기.
• 투표 패턴 및 정치적 트렌드를 포함한 정치 데이터를 분석하기.

다른 사용 사례로는 선거 정보 번역 및 정부와 민주주의에 관한 교육용 콘텐츠 생성 등이 있었습니다.

지식 컷오프 한계점 해결

Anthropic은 조기 선거 기간 동안 혼란스러운 응답을 방지하기 위해 모델의 지식 컷오프(knowledge cutoff)에 관한 투명한 소통의 필요성을 확인했습니다. 예를 들어, 2024년 여름 프랑스에서 조기 선거가 실시되었을 때, Claude(2024년 4월까지 학습됨)는 새로운 선거 일정에 대한 정확한 정보를 제공할 수 없었습니다.

이를 해결하기 위해 Anthropic은 두 가지 주요 채널을 통해 지식 컷오프 날짜에 대한 더 명확한 소통을 구현했습니다:

1. Model System Prompts: 시스템 프롬프트를 업데이트하여 컷오프 날짜를 명시적으로 명시했습니다.
2. User Interface: UI에 선거 배너를 구현하여 사용자가 권위 있는 출처를 찾도록 권장했습니다.

향후 전망

Anthropic은 선거의 무결성을 보호하기 위해서는 지속적인 적응이 필요하다고 주장합니다. 회사는 민주적 절차를 보호하기 위해 업계 협력을 강화하고, 더 정교한 테스트 시스템을 개발하며, 발견된 결과에 대한 투명성을 유지하는 데 전 commitment를 유지하고 있습니다.