Anthropic、AIの社会的影響に対処するための「Hard Questions」イニシアチブを開始

Anthropicは、高度なAIが社会、経済、および倫理に及ぼす影響に関する、一般市民からの最も困難な質問を募り、その回答を公に追跡するための新しいイニシアチブを開始しました。この取り組みは、同社のAIモデル開発が公共の利益およびPublic Benefit Corporationとしての使命と一致することを確実にするために設計されています。

公衆の関与と「Hard Questions」イニシアチブ

Anthropicは、AIが雇用、社会、家族に与える影響、およびAIが科学や医学を前進させる可能性について、一般市民から「hard questions」を提出することを明示的に求めています。同社は、これらの質問に対処するために講じる具体的な行動を公に追跡・報告することを約束しており、自社の掲げる目標に達していない可能性がある領域についても透明性を確保することを含みます。

公共の利益のための既存の枠組み

Public Benefit Corporationとして、Anthropicの使命は、高度なAIモデルの利益を確保しつつ、そのリスクを軽減することです。同社は、この使命をサポートするために、いくつかの構造的および研究ベースのセーフガードを導入しています：

• The Anthropic Institute: AIが社会にもたらす最も重大な課題に立ち向かうための研究活動。
• The Long-Term Benefit Trust: 同社が公共の利益という使命を効果的に推進していることを確実にするために、公平な監視を提供する機関。
• AI Safeguards: 悪用リスクを軽減するためのセーフガードへの継続的な投資、およびモデルを有益な目標に合わせるためのモデルの挙動と内部構造（interpretability）に関する研究。
• Community Programs: 科学者へのAIモデルの無料提供、およびキャリア初期のClaudeユーザーと非営利団体を結びつけるフェローシップ・プログラムの開始。

公衆の感情に関するデータ駆動型の洞察

公共の利益に対するアプローチを導くために、AnthropicはAIのユーザーおよび非ユーザーの期待と懸念を理解するための広範な調査を実施してきました：

• Anthropic Public Record: AI技術に関する期待と懸念について、52,000人のアメリカ人を対象とした公開調査。
• Claude User Surveys: Anthropic Interviewerを通じて、159カ国、70言語にわたる81,000人のClaudeユーザーへのインタビュー。
• Qualitative Research: AIによってその仕事や伝統が影響を受けるグループとの、数十におよぶ対面式のフォーカスグループおよび招集セッション。
• Real-World Data: 経済的影響を理解するために、匿名化された実世界のデータを通じてClaudeの使用状況を調査。