Anthropic U.S. Elections Readiness

Anthropicは、2024年の米国選挙サイクルにおけるAIツールの悪用を防ぐため、包括的な一連の安全対策を導入しました。これらの取り組みは、政治活動の禁止、誤情報の防止、およびユーザーを権威ある非党派的な投票情報へと誘導することに焦点を当てています。

Usage Policy and Prohibited Activities

Anthropicは、選挙の完全性を妨げる可能性のある活動へのClaudeの使用を明示的に禁止するため、Usage Policyを更新しました。このポリシーは、主に3つの制限領域に焦点を当てています：

• Political Campaigning and Lobbying: Claudeは、特定の候補者、政党、または論点を促進するために使用することはできず、また、ターゲットを絞った政治キャンペーンや、投票および資金提供の勧誘に使用することもできません。
• Misinformation and Interference: 選挙法、候補者、および関連するトピックに関する誤情報の生成は禁止されています。さらに、、ツールは投票機を標的にしたり、投票の集計および認証を妨害したりするために使用することはできません。
• Media Limitations: 選挙に関連するディープフェイクのリスクを排除するため、Claudeはテキストのみの出力に制限されており、画像、音声、またはビデオを生成することはできません。

Enforcement and Detection Mechanisms

これらのポリシーへの遵守を確実にするため、Anthropicは自動化されたシステムと人間によるレビューを組み合わせて、悪用を検知・防止しています。執行戦略には以下が含まれます：

• Prompt Modifications: claude.ai インターフェース上のプロンプトの変更を実装しています。
• API Auditing: ファーストパーティAPIにおけるユースケースを監視しています。
• Account Suspension: ポリシー違反の極端なケースにおいて、アカウントを停止します。
• Cloud Partnership: Amazon Web Services (AWS) および Google Cloud Platform (GCP) と協力して、これらのプラットフォームを介してモデルにアクセスするユーザーによる危害を特定し、軽減します。

Vulnerability Testing and Model Refinement

Anthropicは、標的を絞ったレッドチーミングと自動評価を利用して、選挙に関連するリスクを特定し、体系的に対処しています。このプロセスには以下が含まれます：

• Policy Vulnerability Testing (PVT): 外部の専門家と協力して、Anthropicはバイアス、誤情報、および敵対的な悪用に関連するリスクを特定するために、詳細なテストを実施しています。これには、どのように、どこで投票するかについての質問に対するモデルの回答を文書化することが含まれます。
• Automated Evaluations: 同社は、候補者やトピックにわたる回答の政治的公平性を測定するためのスケーラブルなテスト、有害なクエリに対する拒否率の有効性、および有権者プロファイリング戦術に対するシステムの堅牢性を測定するためのテストを開発しました。
• Iterative Improvement: これらのテストの結果は、ポリシーを継続的に適応させ、執行を強化し、モデルの技術的アーキテクチャを洗練練させるために使用されます。

Information Accuracy and Transparency

AIモデルはリアルタイムのトレーニングデータを持たないため、Anthropicはユーザーが正確な投票情報を受け取れるように、特定のコントロールを導入しました：

• Authoritative Redirects: 投票情報を求めるユーザーには、Democracy Worksによる非党派的なリソースであるTurboVoteへのリダイレクトを表示するポップアップが表示されます。TurboVoteは、候補者名、投票用紙の提案事項、および投票の詳細を提供します。
• Knowledge Cutoff Transparency: Claudeのシステムプロンプトは、ユーザーがリアルタイムの選挙データにClaudeを頼ることを防ぐため、その知識のカットオフ日を明示的に参照するように更新されました。
• Industry Collaboration: Anthropicは、その自動評価の一部を公開し、AI業界全体における安全性の向上を図るため、第三者評価への資金提供を行うイニシアチブを開始しました。