Anthropic Election Integrity Strategy 2024

Anthropic은 2024년 글로벌 선거 주기 동안 AI 오용 위험을 완화하기 위한 포괄적인 프레임워크를 도입했습니다. 이 전략은 정치적 캠페인을 방지하고, 허위 정보의 확산을 줄이며, 사용자가 잠재적으로 환각(hallucination)을 일으키는 AI 응답 대신 권위 있는 투표 정보를 받을 수 있도록 보장하는 데 중점을 둡니다.

Strict Policies Against Political Campaigning and Lobbying

Anthropic은 허용 가능한 사용 정책(Acceptable Use Policy, AUP)을 통해 정치적 캠페인 및 로비 목적으로 자사 도구를 사용하는 것을 금지합니다. 이 제한 사항은 특히 후보자가 자신을 사칭하는 챗봇을 만드는 것을 방지하며, Claude를 표적 정치 캠페인에 사용하는 것을 금지합니다.

이러한 정책을 집행하기 위해 Anthropic은 허위 정보나 영향력 행사 작업을 식별하기 위한 자동 탐지 시스템을 활용합니다. 집행 조치는 계층적 접근 방식을 따릅니다:

Warnings: 오용이 발견될 경우 사용자 또는 조직에 경고를 발부합니다.
Suspensions: 극단적인 경우, 도구 및 서비스에 대한 액세스 권한이 취소됩니다. 모든 정지는 인간의 검토를 거쳐 오탐(false positives)을 최소화합니다.

Adversarial Testing and Technical Evaluations

2023년부터 Anthropic은 시스템이 AUP를 위반하는 방식으로 사용될 수 있는 방법을 식별하기 위해 표적 레드팀(red-teaming)을 통한 "Policy Vulnerability Testing"을 실시해 왔습니다. 이 테스트는 두 가지 주요 벡터에 집중합니다:

Misinformation and Bias: 후보자, 선거 관리 및 정치적 이슈에 관한 질의에 시스템이 어떻게 응답하는지 분석합니다.
Adversarial Abuse: 유권자 억제 전술을 요청하는 프롬프트에 대한 시스템의 회복탄력성을 테스트합니다.

레드팀 활동을 보완하기 위해, 회사는 다음과 같은 항목을 측정하기 위한 정량적 내부 평가 스위트를 사용합니다:

Political Parity: 다양한 후보자와 주제에 걸쳐 모델 응답의 일관성을 보장합니다.
Refusal Rates: 시스템이 유해한 선거 관련 질의에 응답하기를 거부하는 정도를 측정합니다.
Robustness: 유권자 프로파일링, 표적 전술 및 허위 정보 생성을 방지하는 시스템의 능력을 테스트합니다.

Redirecting Users to Authoritative Voting Information

모델이 잘못된 정보를 생성하는 환각(hallucinations) 위험에 대응하기 위해, Anthropic은 투표 정보를 찾는 사용자들을 비당파적이고 권위 있는 출처로 선제적으로 리다이렉트합니다. 모델이 실시간 선거 데이터를 제공할 수 있을 만큼 충분히 자주 학습되지 않기 때문에, 중요한 투표 관련 질의에 대해 사용자가 AI 생성 답변 대신 다른 곳으로 안내되도록 설계되었습니다.

Regional Implementations

United States: 미국 기반 사용자가 투표 정보를 요청할 경우, 비당파적 조직인 Democracy Works에서 제공하는 리소스인 TurboVote로의 리다이렉트를 제안하는 팝업이 표시됩니다.
European Union: 2024년 5월 Claude가 유럽으로 확장된 이후, EU 기반 사용자에게도 유사한 팝업 개입이 구현되어 유럽 의회의 비당파적 선거 웹사이트로 리다이렉트합니다.

Adaptive Response to Unanticipated AI Use

Anthropic은 AI 배포가 종종 예상치 못한 효과와 예상치 못한 사용 사례를 초래한다는 점을 인정합니다. 회사는 시스템의 새롭게 나타나는 예측 불가능한 사용 사례를 실시간으로 탐지하는 방법을 개발 중이며, 발견된 사항을 공개적으로 소통할 것을 약속했습니다.