Anthropic Frontier Model Security Framework

TL;DR

Anthropicは、フロンティアAIモデルのためのサイバーセキュリティのベストプラクティスのセットを提案しました。これらのモデルの戦略的重要性を考慮すると、標準的な商用技術を超えるセキュリティレベルが必要であることを強調しています。このフレームワークは、重要インフラに対する二者間管理（two-party control）と、モデルの重みや研究を盗難や悪用から保護するための安全なソフトウェア開発標準の採用に焦点を当てています。

AI-Critical Infrastructure（AI重要インフラ）のためのマルチパーティ・オーソリゼーション

Anthropicは、単一の人物が本番稼働に不可欠な環境への永続的なアクセス権を持たないセキュリティパターンである「二者間管理（two-party control）」を提唱しています。アクセス権を得るには、個人は同僚から期間限定の許可を求め、業務上の正当な理由を提示する必要があります。

Anthropicがmulti-party authorization to AI-critical infrastructure designと呼ぶこのアプローチは、内部リスクを軽減し、高度な脅威アクターから防御することを目的としています。Anthropicは、このパターンが金融サービス、医療機器製造（ISO 13485）、食品安全（ISO 22000）などの高セキュリティ領域ですでに一般的であり、リソースが限られている新興のAIラボにも適用可能であると述べています。

Secure Model Development Framework（安全なモデル開発フレームワーク）

AIシステムの完全性とプロベナンス（出所）を確保するために、Anthropicは既存のソフトウェアセキュリティ標準に基づいたsecure model development frameworkの採用を推奨しています。具体的には、同ラボは2つのゴールドスタンダードとなるフレームワークを指し示しています：

NIST Secure Software Development Framework (SSDF): リリースされたソフトウェアの脆弱性の数を減らすための一連の実践方法。
Supply Chain Levels for Software Artifacts (SLSA): ソフトウェアアーティファクトの完全性を確保するためのフレームワーク。

Anthropicは、モデルの製造とデプロイは、機能的にソフトウェアの構築とデプロイと同一であると主張しています。SSDFとSLSAを実装することで、ラボは「管理の連鎖（chain of custody）」を確立でき、デプロイされたモデルを開発した企業へと紐付けることが可能になります。Anthropicは、NISTが標準策定プロセスにおいて、モデル開発を明示的に含むようにSSDFを拡張することを奨励しています。

Public-Private Cooperation and Regulatory Approach（官民協力と規制アプローチ）

Anthropicは、フロンティアAI研究を、金融サービス部門と同様に「重要インフラ」として扱うべきだと提案しています。この指定により、政府機関とAIラボとの間での情報共有と協力が強化され、高度なリソースを持つ悪意のあるアクターからの防御をより強固にすることができます。

実装に関しては、Anthropicは段階的な導入アプローチを提案しています：

Voluntary Arrangements（自主的合意）: 初期のセキュリティ対策は、ラボ間の自主的な合意として開始できます。
Procurement Requirements（調達要件）: 政府は、調達ガイドライン（EO 14028に類似）を使用して、政府と契約するAI企業やクラウドプロバイダーに対して、これらのセキュリティ標準を義務付けることができます。
Regulatory Mandates（規制による義務化）: 時間の経過とともに、政府の規制権限を使用して、より広範な業界に対してコンプライアンスを義務付けることができるようになります。

Implementation Status（実装状況）

Anthropicは現在、二者間管理、SSDF、およびSLSAを実装しています。同社は、セキュリティ対策が時として生産性を妨げる可能性があることを認めつつも、モデルの能力がスケールするにつれて、これらの予防措置は必要不可欠であり、業界や政府のパートナーとの協議を通じて継続的に強化していくプロセスが必要になると述べています。