Anthropic Responsible Scaling Policy Version 3.0

Anthropicは、AI能力の進歩に伴う壊滅的なリスクを軽減するために設計された自主的な枠組みである、Responsible Scaling Policy (RSP) のバージョン3.0をリリースしました。今回のアップデートでは、厳格な「if-then」形式の能力閾値に基づくポリシーから、Anthropicが単独で達成できることと、業界全体または政府による共同行動が必要なことを区別する、より実用的なアプローチへと移行しています。

構造的転換：単独の対策 vs 多国間・業界全体の対策

Anthropicは、内部の運用計画と、AI業界全体に対する広範な安全性に関する推奨事項を分離するために、RSPを再構成しました。この変更は、一部の高レベルなセーフガードを単一の企業が単独で実施することは不可能であるという現実に対応しています。

単独のコミットメント (Unilateral Commitments): RSPは、Anthropicが他の業界プレーヤーとは無関係に独自に追求する具体的な緩和策の概要を示しています。
業界への推奨事項 (Industry Recommendations): このポリシーには、AI業界全体が高度なリスクを共同で管理するための設計図として意図された、野心的な「能力と緩和策のマッピング」が含まれています。

フロンティア・セーフティ・ロードマップ

バージョン3.0では、Frontier Safety Roadmapが導入されました。これは、セキュリティ、アライメント、セーフガード、ポリシーの4つの主要領域における、野心的でありながら達成可能な目標を詳述した公開文書です。これらの目標は法的拘束力はありませんが、内部的な推進力として、また進捗を示す公開ベンチマークとして機能します。

ロードマップ内の主な目標は以下の通りです：

情報セキュリティ: 前例のないレベルのセキュリティを達成するための「ムーンショットR&D」プロジェクトの立ち上げ。
自動レッドチーミング: 人間のバグバウンティ参加者の効果を超える、自動化されたレッドチーミング手法の開発。
憲法への準拠 (Constitutional Adherence): モデルがAnthropicの憲法に従って動作することを保証するための体系的な措置の実施。
内部監視: インサイダーの脅威（人間およびAIの両方）とセキュリティの脆弱性を検知するための、重要な開発活動の集中管理記録の確立。
規制ガイダンス: リスクの増大に比例してポリシーをスケールさせる「規制の梯子 (regulatory ladder)」を提案するポリシーロードマップの公開。

リスクレポートと外部レビュー

透明性を高めるため、Anthropicは3〜6ヶ月ごとにRisk Reportsを公開する体系的な慣行を導入しています。これらのレポートは、現在のモデルの包括的な安全性プロファイルを提供し、能力、脅威モデル、および実施中の緩和策の交差点を詳述します。

外部検証

特定の状況下において、RSPはこれらのリスクレポートの外部レビューを必要とするようになりました。Anthropicは、利益相反がなく、AI安全性研究に精通した第三者の専門家を任命し、未編集のレポートへのアクセスを許可し、当社の推論と意思決定を公開レビューの対象とします。現在のモデルはまだこの要件をトリガーしていませんが、Anthropicは現在このプロセスを試験運用しています。

振り返り：RSP v1およびv2の成功と失敗

Anthropicのバージョン3.0への移行は、過去2年半にわたる以前のポリシーの評価に基づいています。

成功した点

内部インセンティブ: RSPは、ASL-3 (AI Safety Level 3) 標準への準拠に使用される入出力分類器のような、より強力なセーフガードの開発を効果的に促しました。
業界への影響: この枠組みは、OpenAIやGoogle DeepMindを含む他のラボに同様の安全性枠組みの採用を促し、カリフォルニア州 (SB 53)、ニューヨーク州 (RAISE Act)、およびEU (AI Actの行動規範) などの管轄区域における初期のAI政策に影響を与えました。

成功しなかった点

能力の閾値: 「曖昧なゾーン」により、モデルが特定の能力閾値をいつ通過したかを正確に判断することが困難でした。例えば、生物学的リスクにおいて、モデルは単純なテストには合格しても、高いリスクの決定的な証拠を提供できない場合があり、共同行動のための多国間的な根拠を構築することを困難にしています。
政府のペース: AIの安全性に関する政府の行動は予想よりも遅れており、政治情勢は安全性規制よりも経済成長と競争力を優先することがよくあります。
単独の限界: 一部の高レベルなセキュリティ基準（RANDのレポートで言及されている「SL5」基準など）は、現在、国家安全保障コミュニティの支援なしには達成不可能であるとみなされています。