Anthropic Elections and AI in 2024 Observations

Anthropicは、Claude.aiおよびそのAPI全体における選挙関連のアクティビティが、全体の利用の0.5%未満であったと報告しました。これは、米国大統領選挙に至る数週間の間には1%をわずかに上回る程度に増加しました。これは、生成AIが主要な選挙サイクルにおいて広く普及している一方で、選挙関連のクエリに対する実際の使用は、モデルとのインタラクション全体のわずかな一部にとどまっていることを示しています。

Election Safety Framework and Enforcement

Anthropicは、2024年を通じて選挙関連のリスクを軽減するために、3つの柱からなる安全対策アプローチを導入しました：

• Policy Enforcement: 当社のUsage Policyは、選挙への干渉、キャンペーン活動、候補者や政党の宣伝、寄付の勧誘、および誤情報の生成を禁止しています。2024年5月、これらのポリシーは、有権者のターゲット化、なりすまし、および影響力行使キャンペーンに特化して対処するために拡張されました。
• Rigorous Testing: Anthropicは、外部の専門家とともに、12回以上のポリシー脆弱性テスト（ターゲットを絞ったレッドチーミング）を実施しました。このテストは、有害なクエリに対する拒否率、候補者間の公平性、および不正確な情報の検出に焦点を当てました。インド、南アフリカ、メキシコ、英国、フランス、およびEU議会選挙に向けて定期的なテストが実施され、米国選挙期間中には誤情報ナラティブの日常的なテストが行われました。
• Authoritative Referrals: 投票に関する情報を求めるユーザーは、米国のTurboVote/Democracy Works、英国のUK Electoral Commission、フランスの行政選挙ウェブサイトなどの、非党派的な情報源へと誘導されました。

世界的に、Anthropicは、繰り返しの違反者に対する警告やアカウントの停止を含む、約100件の選挙関連の執行措置（enforcement actions）を取りました。同社は、チャットボットにおける増幅のリスクは、ソーシャルメディアよりも低いと指摘しています。これは、Claudeが1対1のインタラクションを通じて動作し、現在はテキストのみを出力するため、ディープフェイクの脅威が排除されるためです。

Usage Analysis via the Clio Tool

Anthropicは、実際の言語モデルの使用状況を分析するために、Clioと呼ばれる新しい自動化ツールを使用しました。Clioは、生の会話を抽象化されたトピッククラスターに蒸留（distills）することで、モデルがどのように使用または誤用されているかについての洞察を提供します。

米国選挙の使用状況の分析（11月2日〜8日）では、選挙関連の会話の約3分の2が、以下のリクエストを含んでいました：

• 政治システム、政策、時事問題、および政治的課題を分析・説明すること。
• 投票パターンや政治的トレンドを含む政治的データを分析すること。

その他のユースケースには、選挙情報の翻訳や、政府および民主主義に関する教育的コンテンツの生成が含まれていました。

Addressing Knowledge Cutoff Limitations

Anthropicは、突発的な選挙（snap elections）における混乱を招く回答を防ぐため、モデルの知識のカットオフ（knowledge cutoffs）に関する透明性のあるコミュニケーションの必要性を特定しました。例えば、2024年夏にフランスが解散総選挙（snap elections）を実施した際、Claude（2024年4月までの学習データに基づく）は、新しい選挙の時期に関する正確な情報を提示することができませんでした。

これを解決するために、Anthropicは、主に2つのチャネルを通じて、知識のカットオフ日に関するより明確なコミュニケーションを実装しました：

1. Model System Prompts: システムプロンプトを更新し、カットオフ日を明示的に記載すること。
2. User Interface: UIに選挙バナーを表示し、ユーザーに権威ある情報源を参照するよう促すこと。

Future Outlook

Anthropicは、選挙の完全性を保護するためには、絶え間ない適応が必要であると主張しています。同社は、民主的なプロセスを保護するために、業界との連携を強化し、より洗練されたテストシステムを開発し、研究結果に関する透明性を維持することに引き続き取り組んでいきます。