Anthropicが提案するAI開発の透明性フレームワーク

Anthropicは、最も強力なAIシステムの開発者に対して、公衆の安全と説明責任を確保するために設計された、ターゲットを絞った透明性フレームワークを提案しました。このフレームワークは、政府、学術界、および産業界によってグローバルな安全基準と包括的な評価方法が開発されている間の、暫定的な安全対策を提供することを目的としています。

A Flexible Approach to AI Regulation

提案されたフレームワークは、AIのイノベーションを妨げたり、国家安全保障、公共の利益、および創薬などの分野における利益の提供を遅らせたりすることを避けるために、軽量で柔軟な設計になっています。Anthropicは、技術変化のペースが非常に速いため、AI評価方法が数ヶ月以内に時代遅れになることがよくあり、政府が課す硬直的な基準は逆効果になると主張しています。

Minimum Standards for AI Transparency

Anthropicは、技術の進化する性質を受け入れつつ、セキュリティと公衆の安全を高めるために、AI透明性政策を導くべき6つの核心的な原則を概説しています：

1. Targeted Application to Large Developers

透明性要件は、最大規模のフロンティアモデル開発者にのみ適用されるべきです。これらの開発者は、計算能力、計算コスト、評価性能、年間収益、およびR&Dに関する閾値によって区別されます。スタートアップのエコシステムを保護するために、フレームワークは小規模な開発者への免除を提案しています。潜在的な閾値の例としては、年間収益が約1億ドル、または年間R&Dおよび資本支出が約10億ドルなどが挙げられます。

2. Implementation of Secure Development Frameworks

対象となる開発者は、「不合理なリスク」を評価し、軽減するために、Secure Development Frameworkを確立しなければなりません。これらのリスクには、特に、不整合なモデルの自律性によって引き起こされる危害や、化学、生物、放射性、および核（CBRN）の危害が含まれます。

3. Public Disclosure of Safety Frameworks

安全フレームワークは、AI企業が維持する公開ウェブサイト上で開示示されるべきであり、機密情報については合理的な編集が認められます。企業はまた、公開されたフレームワークの条件を遵守していることを自己証明しなければなりません。

4. Publication of System Cards

開発者は、デプロイメントの際、システムカードまたは同様の文書を公開開示しなければなりません。これらの文書は、テスト手順、評価結果、および軽減策を要約するものであり、モデルや公衆の安全とセキュリティを損なう可能性のある情報については、編集が認められます。

5. Legal Protections for Whistleblowers

説明責任を確保するために、フレームワークは、研究所が自らのフレームワークの遵守について嘘をつくことを法的違反とすることを提案しています。これにより、既存の内部告発者保護が適用可能となり、意図的な不正行為に執行力を集中させることができます。

6. Evolutionary Transparency Standards

AIの安全とセキュリティの慣行は初期段階にあるため、フレームワークは進化を前提に設計される必要があります。要件は、ステークホルダー間の合意が得られたベストプラクティスとして確立されるにつれて、適応していく、柔軟で軽量な基準として開始されるべきです。

Industry Context and Policy Implications

この提案は、AnthropicのResponsible Scaling Policyや、Google DeepMind、OpenAI、Microsoftによる同様のフレームワークを含む、主要な研究所が採用している既存の自発的な慣行に沿ったものです。これらの要件を法律に明文化することで、フレームワークは業界のベストプラクティスを標準化し、モデルがより強力になるにつれて安全性の開示示唆が撤回されることがないようにすることを目的としています。

Anthropicは、システムカードやSecure Development Frameworksに関するこれらの透明性要件が、政策立案者に対して、さらなる、より厳格な規制が正当化されるかどうかを判断するための必要な証拠を提供し、同時に公衆に対してフロンティアAI技術に関する不可欠な情報を提供することを示唆しています。