Dario Amodei on Policy for the AI Exponential

AIの進歩と政策のミスマッチ

AIの能力は、立法および政治プロセスの速度をはるかに超える指数関数的なペースで進歩しています。政治機関は設計上、権力の乱用を防ぐためにゆっくりと動く一方で、AIは4年で基本的なコーディング支援から主要なAI企業におけるコードの大半を書くレベルまで進歩しました。このタイムスケールのミスマッチは、政策立案者が反応する前にAIが消費者ツールから世界的な影響を持つ戦略的資産へと進化する危険なギャップを生み出します。

透明性から拘束力のある規制への移行

以前はAIリスクの具体的な形を予測することが困難だったため、初期の政策努力は透明性と開示に焦点を当てていました。しかし、Claude Mythos Previewのようなモデルの出現により、フロンティアモデルがサイバーセキュリティ、重要インフラ、国家安全保障に具体的なリスクをもたらすことが示されました。

これらのリスクに対処するため、AI規制は、強力な技術が展開前に厳格な技術的テストと監査を受けることを要求する連邦航空局（FAA）のようなモデルにシフトすべきです。

提案される規制フレームワーク

アモデイは以下の要件を持つ拘束力のある規制システムを提案しています：

• 必須の第三者テスト: 特定のコンピューティングしきい値を超えるモデルは、サイバーセキュリティ、生物兵器、AI制御の喪失、これらのリスクを加速させる可能性のある自動化されたR&Dという4つの重要な分野でのリスクについて監査を受けなければなりません。
• 政府介入権: 政府は、第三者の評価に基づいて受け入れがたいリスクを呈するモデルの展開をブロックまたは抑止する権限を持つべきです。
• セキュリティ基準: AI開発者は、モデルの重みを保護し、定期的なレッドチーム演行と侵入テストを実施するための厳格なセキュリティ基準を実装しなければなりません。
• インシデント報告: 4つの重要なリスク分野における安全インシデントの即時報告は義務付けられます。

マクロ経済的混乱と労働への対応

強力なAIは、経済成長と労働需要を切り離し、ハイパーグロースとハイパー不平等が共存するシナリオを作り出す可能性があります。AIは人間の認知能力の一般的な代替品として機能し得るため、従来の市場メカニズムでは解決できない持続的な雇用の喪失を引き起こす可能性があります。

労働の安定性のための政策介入

AI駆動の雇用喪失の社会的影響を緩和するため、以下の措置が推奨されます：

• 測定の強化: 政府は経済統計を拡大し、AI駆動の雇用喪失をリアルタイムで正確に追跡すべきです。
• 雇用促進インセンティブ: 賃金保険（低賃金の役割に移る労働者への補償）、雇用主向けの保持税インセンティブ、労働力訓練助成金の実施。
• 長期的な支援: 労働需要が永久的に減少する場合、AI企業への税またはキャピタルゲイン税の増税によって資金を調達したユニバーサル・ベーシック・インカム（UBI）またはユニバーサル・キャピタル・アカウントなどのメカニズムが必要になる可能性があります。

AIのプラスの科学的影響の加速

AI自身はより厳格な安全規制が必要ですが、バイオメディシンや材料科学など、AIが加速させる下流分野は、現在の規制システムが遅すぎるために苦しむ可能性があります。現在の薬物承認の7〜8年のパイプラインは、革新のペースが遅いことを前提に設計されており、AIによって生成される候補薬の洪水に対応できなくなる可能性があります。

規制が命を救う進歩を妨げないように、FDAやEMAなどの機関は、遅い物理実験の代わりにAIベースのシミュレーションを受け入れるための基準を開発すべきです。これには以下が含まれます：

• AIベースの薬力学および薬物動態（PD/PK）モデリング。
• 参加者要件を削減する臨床試験における合成コントロールアーム。
• 動物実験を削減するAI駆動の毒性予測。

市民の自由と民主的権力の保護

AIは、自律システムを使って民主的監視を回避できる行為者による「権力の驚きの奪取」のリスクをもたらします。AIが独裁の究極のツールになるのを防ぐため、特定の法的保護が必要です：

• 自律兵器の説明責任: 完全自律兵器は、憲法および司法の監視に応答するように設計されるべきです（例えば、司法の「オフスイッチ」）。
• 国内禁止: 国内および法執行における完全自律兵器の使用に対する法的禁止。
• プライバシーの抜け穴の閉鎖: 政府が大規模なAI分析のために一括のプライベートデータを購入できる「データブローカーの抜け穴」を閉鎖。
• 公平なAIへのアクセス: 不利な政府行動の対象となる市民が、政府が使用するものと同等以上の能力を持つAIツールにアクセスできるようにすること。

地政学的戦略：民主主義AI連合

AIは、核兵器の影響に匹敵するかそれ以上を超える軍事的および経済的支配の源と見なされています。AIにおいて大きなリードを持つ国家は、戦略、研究開発、およびインテリジェンスにおいて圧倒的な優位性を持つ可能性があります。

リーダーシップを維持するため、民主主義国はグローバルな連合を形成すべきです：

• サプライチェーンの管理: メンバー間でチップと半導体製造装置（SME）の共有を調整し、敵対国には提供しない。
• 基準の調和: 生物学的およびサイバーリスクに関する国際的な安全基準を調整し、業界の負担を軽減し効果を高める。
• 相互防衛: AI主導のサイバー防御とAI駆動のインテリジェンス共有を共同で生産する。

重要な視点と反論

これらの提案に関する議論は、その動機と実際の影響に対する大きな懐疑論を浮き彫りにしています：

• 規制の捕捉: 批評家は、FAAスタイルの事前承認と必須の監査が参入障壁を巨大にし、既存の企業を実際に保護し、新しいAIスタートアップの登場を不可能にすると主張しています。
• オープンウェイト論争: 「モデルの重みを保護する強力なセキュリティ基準」の要件は、一部によってオープンウェイトモデルを違法にし、少数の企業グループに権力を集中させる動きと解釈されています。
• 経済的現実主義: 一部の観察者は、労働のない世界における「意味と目的」への焦点は裕福層の現実離れした視点であり、ほとんどの人々が主に生存のために働いていることを指摘しています。
• 一貫性の懸念: 批評家は、AIモデルに対してより厳しい規制を主張しながら同時にAI駆動の医薬品に対するFDA規制の緩和を求めることの矛盾を指摘しています。