Anthropic Responds to California Governor Newsom’s AI Working Group Draft Report

TL;DR

Anthropicは、客観的な基準と透明性を強調するニューサム知事のAI Working Group草案報告書を称賛し、同ラボがResponsible Scaling Policy、公開安全開示、および第三者テストを通じて、報告書の推奨事項の多くをすでに実施していることを強調しました。また、このような慣行を普遍的なものにするための、軽度な政府措置を提唱しています。

Alignment with the Working Group’s Focus

Anthropicは、客観的でエビデンスに基づいた基準がフロンティアAIガバナンスにとって不可欠であることに同意しています。同ラボは、特に以下の目的のための、低コストで影響力の大きいツールとしての透明性の強調を支持しています：

新しいAI技術に関するエビデンスベースを拡大すること。
消費者の信頼を構築すること。
AI企業間のポジティブサムな競争を促進すること。

Anthropicは、ラボがモデルの盗難保護および国家安全保障リスクのテストを開示することを求めるWorking Groupの呼びかけを歓迎しました。

Existing Anthropic Practices that Mirror Report Recommendations

Responsible Scaling Policy – 公開で、Anthropicがどのように悪用や自律性のリスクを評価し、安全およびセキュリティ対策を強化する閾値を定義しているかを詳細に説明しています。
Safety and security testing disclosures – 各主要モデルのリリース時に結果が共有されます。
Third‑party testing – 外部監査が内部評価を補完します。これはAnthropicのthird‑party testingに関する発表で説明されています。

これらの慣行は、フロンティアラボが透明な安全およびセキュリティプロトコルを採用することを推奨する報告書の推奨事項と一致しています。

Call for Light‑Touch Government Intervention

Anthropicは、現在、フロンティアAI企業は以下の事項を行うことが義務付けられていないことに注目しています：

安全およびセキュリティポリシーの公開。
そのポリシーを公開で記述すること。
在籍するテストの文書化。

同ラボは、控えめな、軽度な規制が、イノベーションを阻害することなく、このギャップを埋めることができると主張しています。ホワイトハウスへの最近の政策提言書において、Anthropicは、強力なAIシステムが早ければ2026年末に出現する可能性があると警告し、透明な政策レジームを確立することの緊急性を強調しました。

Economic Impact Focus and Future Contributions

The Working Groupは、AIの経済的影響に関するより深い研究の必要性を強調しました。Anthropicは、AI主導の経済的変化を追跡するためのEconomic Indexを開発することで対応しています。同ラボは、報告書の最終化を助けるために、Working Groupへ継続的にフィードバックを提供することを計画しています。

Conclusion

Anthropicは、ニューサム知事のAI Working Group立ち上げの取り組みを称賛し、カリフォルニア州のフロンティアモデルの安全性に関するアプローチに協力することを約束し、同時に、軽度な規制を通じて業界全体で透明な安全およびセキュリティ慣行の採用を促しています。