Anthropic、新しい3層の独立評価者フレームワークのもとでMETRに従業員並みのアクセスを提供

要約: Anthropicは2026年10月15日、METRの6人の従業員に対し、社内システムへの従業員並みのアクセスを提供し始めたと発表しました。これにより、非営利団体はフロンティアモデルのリスクを独立して評価し、その結果を公開できます。この取り決めは、Anthropicの新しい3層の第三者評価者フレームワークの最初の具体的な事例であり、Anthropicは評価者を自主的に組み込んでおり、すべてのフロンティアAI企業が同様の対応を取るべきだと述べています。

Anthropicが発表した内容

Anthropicは、フロンティアAIモデルを評価する非営利団体METRのチームに従業員並みのアクセスを提供し始めました。METRはリスク評価の結果を公開します。

この発表は、以前の2つのコミットメントに続くものです。Anthropicは「先月」、モデルと安全性プラクティスのより強力な独立した第三者評価にコミットし、また、独立した外部監査人または評価者と提携することを約束したホワイトハウスのスーパーインテリジェンス協定にも署名したと述べています。

Anthropicは、過去1年間にわたりMETRと協力し、リスクレポートのいくつかのレビューを行ってきたと述べています。METRに加えて、AnthropicはSecureBioおよびAccentureと評価者として協力しており、Hugging Faceを含む他のいくつかの組織と初期段階の協議を行っていると述べています。

Anthropicが独立した評価者が必要だと考える理由

Anthropicが第三者評価を行う理由は、安全性に関連するすべての情報を公開できないためです。その情報の一部は悪意のある行為者に役立つ可能性があり、一部は計算リソースやトレーニング情報など商業的に機密性の高いものです。

Anthropicは、その情報を公開する代わりに、第三者評価者に深いアクセスを提供し、モデル構築に伴うリスクについての証拠と合理的な結論を共有してもらうと述べています。目標は、評価者がフロンティアAI企業のシステムについて理解していることと、企業自身が理解していることとのギャップを埋めることです。

Anthropicは、評価者がフロンティアモデルを評価するために必要な4つの要件を挙げています。

専門知識: フロンティアモデルの能力を評価する専門知識。アライメントフェイキングなど、評価が誤る可能性を理解することも含みます。
独立性: 評価者は、評価対象の企業の株式を保有していないか、財務的または運営的に依存していない必要があります。
アクセス: リスクを有意義に評価するのに十分なアクセス。最新モデルへのアクセスに加えて、評価者はモデルがどのようにトレーニングされたか、セーフガードがどのように機能するかなどについての可視性が必要です。
公開の自由: モデルまたはプロセスに関する観察と評価を公開する自由。

銀行監督のアナロジー

Anthropicは、そのアプローチを銀行監督に例えていますが、アナロジーは正確ではないと述べています。銀行は外部者よりも自社のリスクポジションについてよく知っているため、規制当局は最大手銀行に常駐検査官を配置して内部で作業させます。銀行のリスクテイクが公衆を脅かす可能性がある場合、第三者はそれを事前に確認しようとします。

Anthropicは、AI業界への組み込み評価を堅牢な安全性監視への一歩と位置付け、複数の評価者と迅速に進め、どのようなパートナーシップが機能するかについて積極的に学んでいると述べています。

Anthropicにおける「従業員並みのアクセス」の意味

Anthropicは、6人のMETR従業員を、会社のハードウェア、オフィススペース、およびAnthropic自身のリスク評価チームがアクセスできるものとほぼ同等の内部ツールおよびシステムへのアクセスを提供してオンボーディングしました。

明確に定義された少数のカテゴリ（顧客データ、弁護士・依頼者間の秘匿特権情報、モデルアーキテクチャに関する情報）を除き、Anthropicの従業員は、アライメントリスクに取り組む同僚と共有するのと同じように、組み込まれたMETRチームと情報を共有することが推奨されています。

Anthropicは、METRとの関与は、執行可能な契約のもとで活動する小規模なチームに限定されていると述べています。他のMETR従業員は、他のプロジェクトでAnthropicと協力する研究者を含め、そのチームの作業から隔離されています。Anthropicは、組み込み評価を、Anthropicのセキュリティ基準のもとで働く少数の資格のある人々が会社の運営方法を間近で見る方法であり、他の組織がAnthropicまたはその顧客およびパートナーの情報を取得する方法ではないと明示しています。

公開権と編集

METRは、Anthropicのリスクレベル、インシデント、またはプラクティスに関する分析を公開します。Anthropicは公開を拒否することはできませんが、顧客データ、弁護士・依頼者間の秘匿特権情報、モデルアーキテクチャ情報など、事前に定義された狭いカテゴリに該当する場合、METRに情報の編集を要求できます。

METRは、編集された情報を明かさない限り、Anthropicの編集について公に特徴付け、編集が正当であったかどうかについての見解を述べることができます。

評価者アクセスの3つの層

Anthropicは、評価者のための3つのアクセス層を開発していると述べており、時間の経過とともに第3層に複数の評価者を持ち、各チームがAnthropicのリスク態勢と主要な決定について独自の分析を公開することを期待しています。

層	アクセス	公開権
第1層	Anthropicが提供するアクセスを決定	評価者はAnthropicの承認を得て調査結果を公開できます
第2層	より多くの情報へのアクセス	評価者はAnthropicの承認なしに公開できます。Anthropicは特定のカテゴリの情報の削除を要求できますが、評価者はその編集が正当であったかどうかについての見解を公開できます
第3層	従業員並みのアクセス	第2層と同様の公開権

METRとの取り決めは第3層です。

他の評価者パートナーシップ

Anthropicの他のパートナーシップはまだ初期段階にあるため、これらの評価者はより限られた情報と公開権を受け取ります。Anthropicは、これらの初期の関与の目標は、パートナーが機密情報を保護し、モデルを評価するために必要なリソースと専門知識を持っていることを確認することであり、パートナーシップが進み信頼が構築されるにつれて、より多くの独立した評価者を完全に組み込むことを期待していると述べています。

SecureBioは現在第1層にあります。以前のリスクレポートのパイロットレビューを完了して公開した後、Anthropicの8月のリスクレポートの化学兵器および生物兵器の章をレビュー中です。Anthropicは、このレビューが完了した後、アクセスと公開権が増加したプロジェクトへの移行を検討すると述べています。

AccentureおよびFacultyは、モデルの評価とレッドチーミング、アライメント評価の実施、モデルセーフガードのテスト、組織全体の能力構築を含む、野心的なパートナーシップに向けてAnthropicと協力しています。

Hugging Faceは、Anthropicが初期協議を行っている組織として挙げられています。

フロンティアAI監視への影響

Anthropicの発表は、外部組織が機密の詳細を公開することなくフロンティアラボの安全性プラクティスを検査するための具体的で層状のメカニズムを確立します。主要な構造的特徴は、上位層では公開権が裁量的ではなく保証されていること、編集が事前定義されたカテゴリに限定されていること、評価者が編集が正当であったかどうかを公に異議を唱えることができることです。

Anthropicは、評価者を自主的に組み込んでおり、すべてのフロンティアAI企業が同様の対応を取るべきだと述べています。同社は、進捗に応じて最新情報を共有することにコミットしていると述べています。