Anthropicによるカリフォルニア州SB 53への支持表明

Anthropicは、強力なAIシステムの開発を管理するための立法措置であるカリフォルニア州上院法案53（SB 53）を公式に支持しました。この法案は、従来の規制の試みで見られたような規範的な技術的義務を課すことなく、壊滅的なリスクを軽減するために、フロンティアAI開発者に対して強制的な透明性と開示の枠組みを確立することを目指しています。

SB 53の主な要件

SB 53は、規制の焦点を「信頼するが検証する」というアプローチへとシフトさせ、最も強力なAIシステムを開発する大企業に対して、以下の義務を遵守することを求めています：

• 安全性の枠組み: 開発者は、壊滅的なリスク（重大な金銭的損害または大量の死傷者をもたらす可能性のあるリスクと定義される）をどのように管理、評価、および軽減するかを詳細に記した安全性の枠組みを作成し、公開しなければなりません。
• 透明性レポート: 新しい強力なモデルをデプロイする前に、企業は壊滅的なリスクの評価と、安全性の枠組みを履行するために講じた措置をまとめた公開レポートをリリースしなければなりません。
• インシデント報告: 重大な安全インシデントは、15日以内に州に報告する必要があります。さらに、開発者は、内部的にデプロイされたモデルから発生する壊滅的なリスクの可能性に関する評価の要約を、機密として開示しなければなりません。
• 内部告発者の保護: この法案は、これらの要件の違反、または壊滅的なリスクに起因する公衆衛生および安全に対する具体的かつ重大な危険を報告する従業員に対して、法的保護を提供します。
• 公衆への説明責任: 企業は、その枠組みにおいて行われた約束に対して法的責任を負い、不遵守の場合は金銭的な罰則が科せられます。

適用範囲と業界の整合性

SB 53は、最も強力なAIシステムを開発する大企業を対象としており、スタートアップや中小企業が不必要な規制の負担を避けるための免除規定を設けています。

Anthropicは、これらの要件が、すでにいくつかのフロンティア・ラボが採用している慣行を形式化するものであると指摘しています。例えば、AnthropicはResponsible Scaling Policyを利用し、モデルの能力と限界を文書化するためにシステムカードを公開しています。同様の枠組みは、Google DeepMind、OpenAI、およびMicrosoftによっても採用されています。これらの開示を義務化することで、SB 53は公平な競争環境を創出し、ラボが競争上の優位性を得るために安全性や開示プログラムを削減することを防ぎます。

技術的しきい値と将来の改善点

Anthropicは、SB 53を強力な基盤として評価していますが、将来の規制の進化に向けて3つの領域を提案しています：

学習コンピューティングのしきい値

この法案は現在、規制対象となるAIシステムを、学習に使用される計算能力の量に基づいて特定しており、しきい値は10^26 FLOPSに設定されています。Anthropicは、これが許容可能な開始点ではあるものの、一部の強力なモデルがこの範囲外となるリスクがあることを指摘しています。

評価の詳細

Anthropicは、開発者が実施するテスト、評価、および軽減策について、よりきめ細かな詳細を提供することを推奨しています。彼らは、Frontier Model Forumでの自らの活動を例として、安全性の研究やレッドチーム・テストの共有が、安全性エコシステム全体を強化することにどのように貢献するかを強調しています。

適応型規制

AI技術は急速に進歩するため、Anthropicは、規制当局が安全性とイノベーションのとのバランスを維持するために、ルールを動的に更新する能力を持つ必要があると主張しています。

規制の背景

Anthropicは、フロンティアAIの安全性は、州ごとの規制のパッチワーク化を回避するために、理想的には連邦レベルで対処されるべきであると主張していますが、ワシントンでの連邦政府の合意形成が強力なAIの進歩よりも遅れているため、同社はSB 53を支持しています。