AnthropicがAIガバナンスのためのPublic First Actionに2000万ドルを寄付

Anthropicは、非営利の両党的501(c)(4)団体であるPublic First Actionに2000万ドルを寄付しました。この資金は、人工知能に関する公共教育の推進、AIの安全対策の実装促進、そして米国がグローバルなAI競争でリードを維持できるようにすることを目的としています。

AIリスクの状況と政策の必要性

Anthropicは、急速に進化するAIの能力に伴うリスクを管理するための柔軟な規制の必要性を強調しています。同社は、AIがすでにサイバー攻撃の自動化に使われており、危険な兵器の製造を支援する可能性があると指摘しています。また、強力なAIシステムがユーザーの意図とは反対の有害な行動を取る可能性もあると述べています。

AIの開発スピードは「目まいがするほど速い」と表現されており、2023年の単純なチャットボットから、複雑なタスクを完了できる高度なエージェントへと進化しています。Anthropicは、この急速な進展がソフトウェアエンジニアリングをはじめとするさまざまな職業に影響を与えていると強調しており、同社自身もAIモデルが以前のバージョンを破ったため、技術的採用試験を何度も再設計しなければならない状況に直面しています。

Public First Action：目標と両党的アプローチ

Public First Actionは、共和党と民主党の戦略家が共同でリードする両党的組織です。この団体は、AIガバナンスに関する政治家や一般市民を動員するための組織的な取り組みの空白を埋めることを目指しています。世論調査によると、69％のアメリカ人が政府がAIの規制に対して十分な対応をしていないと感じているという状況です。

Public First Actionは以下の4つの主要な政策優先事項に注力しています：

• AIモデルの透明性： 先端AI企業がリスクをどのように管理しているかについて、一般市民により明確な可視性を提供するための安全対策を求める。
• 連邦ガバナンス枠組み： 強力な連邦AIガバナンス枠組みを支持する一方で、連邦法が州法を優先する（preemption）ことを反対し、議会がより強力な安全対策を採用しない限りは州法の存続を支持する。
• 輸出規制： 権威主義的な敵対勢力が重要な技術にアクセスできないように、AIチップに対するスマートな輸出規制を支持する。
• ターゲット型規制： 即時的な高リスク分野に焦点を当てた規制を推進し、特にAIを用いた生物兵器やサイバー攻撃に注力する。

ガバナンスの範囲と意図

Anthropicは、これらの政策目標が開発者としての同社の利益を目的としているものではないと明言しています。なぜなら、効果的なガバナンスはAIラボに対するより厳格な監視をもたらすからです。さらに、同社は透明性規制が、最も強力で危険なAIモデルを開発する企業に限定されるべきだと強調しています。これは、規模が小さくリソースが限られた開発者には適用されないべきだと述べています。

Anthropicは、この寄付を、AI技術が公共の利益に貢献し、技術の変革的潜在能力に応じたリスクを適切に管理する責任の一環として位置づけています。