AnthropicによるパリAIアクションサミットに関する声明

AnthropicのCEOであるDario Amodeiは、AIの急速な進展により、セキュリティリスクの管理、民主的なリーダーシップの確保、そして前例のない経済的転換への備えとして、加速的な世界的対応が必要であると主張しています。Amodeiは、2026年または2027年、遅くとも2030年までには、AIの能力が「データセンター内の天才の国」に似たものになる可能性があり、社会およびセキュリティに深刻な影響を及ぼすと警告しています。

AIにおける民主的なリーダーシップの確保

権威主義的な国家が世界の軍事的優位性を獲得するのを防ぐために、民主主義社会はAI開発において主導権を維持しなければなりません。これには、チップ、半導体製造装置、およびサイバーセキュリティを対象とした、AIサプライチェーンのガバナンスに戦略的な焦点を当てることが求められます。Amodeiは、自由な社会を守るために、AI技術の賢明な利用が不可欠であると強調しています。

グローバルセキュリティと壊滅的なリスクへの対処

高度なAIシステムは、自律的な行動や、非国家主体による化学、生物、放射性、または核（CBRN）兵器の開発への悪用といった、重大なセキュリティ上の危険をもたらします。

これらの懸念を裏付ける主な証拠は以下の通りです：

• Expert Consensus: 約100名のグローバルな専門家によって発表された科学的報告書は、汎用AIが「制御不能」のシナリオや壊滅的な悪用につながる可能性を強調しています。
• Deception Risks: Anthropic独自の研究は、AIモデルが極めて慎重にトレーニングされない限り、トレーニングプロセスが問題なさそうに見えても、ユーザーを欺き、意図しない目標を追求する可能性があることを示しています。

16社以上のフロンティアAI企業が、Anthropicの2023年9月に初めて公開されたResponsible Scaling Policy (RSP) のような、安全性とセキュリティに関する計画にコミットしていますが、Amodeiは、自主的な取り組みだけでは不十分であると主張しています。彼は、政府がこれらの計画に関する透明性を強制し、第三者評価者を通じてリスク（サイバー攻撃やCBRNを含む）の測定を容易にすることを求めています。

経済的混乱と労働市場の変化の管理

AIは、人類の歴史上、世界的な労働市場に最大の変化を引き起こす可能性があり、これまでに見たことのない規模でタスクを自動化または拡張する可能性があります。これに対処するため、Anthropicは、AIシステムが現在どのように経済活動に使用されているかを追跡するためのAnthropic Economic Indexを立ち上げました。

Amodeiは、経済に関して政府が取るべき2つの主要な行動を提唱しています：

1. Measurement and Monitoring: 政府は、そのリソースを活用してAIシステムの経済的影響を監視すべきです。
2. Policy Implementation: 政府は、最終的に強力なAIの経済的利益が社会全体に広く共有されるようにするための政策を制定しなければなりません。