Anthropic Long-Term Benefit Trust ガバナンス構造

Anthropicは、変革的なAIの開発が人類の長期的利益と一致し続けることを確実にするために設計された独立したガバナンス機関である、Long-Term Benefit Trust (LTBT) を設立しました。この構造は、従来の企業ガバナンスでは考慮できないことが多い、国家安全保障上のリスクや経済的混乱といった大規模な社会的外部性の可能性に対処するものです。

Long-Term Benefit Trust の役割

Long-Term Benefit Trustは、金銭的利害関係のない5人の受託者（Trustees）で構成される独立機関です。その主な目的は、企業のリーダーシップをチェックし、Anthropicが株主の財務的利益と公共の利益という使命のバランスを保つようにすることです。

LTBTの主な特徴は以下の通りです：

  • 取締役会の監督: Trustは、Anthropicの取締役の一部を選任および解任する権限を保持します。この権限は段階的に導入され、4年以内に取締役の過半数を選任することが予定されています。
  • Class T Stock: Trustは新しい種類の株式（Class T）を独占的に保有しており、これにより取締役を任命する権限が付与され、企業またはその事業を大幅に変更する可能性のある行動についてTrustに通知することを義務付ける「保護条項」が提供されます。
  • 独立性: 受託者は、AIセーフティ、国家安全保障、公共政策、社会企業における専門知識に基づいて選出され、意図的にAnthropicの財務的利害から隔離されています。

AIにおける市場の外部性への対処

Anthropicは、取締役は株主によって選出され、株主に対して法的責任を負うため、従来の企業ガバナンスは株主の財務的利益を優先するように設計されていると主張しています。これは、企業の活動が、取引の当事者ではない第三者に課されるコストや利益である「外部性」を大幅に生じさせる場合にリスクとなります。

Anthropicは、商業的なリソースが安全性の研究に資金を提供しているように、商業的な成功と公共の利益はしばしば相乗効果をもたらすと指摘していますが、LTBTは特に「極端な事象」のために設計されています。Trustは、リーダーシップが市場への投入を最優先にするような目標よりも、壊滅的なリスクの評価や国家レベルのセキュリティを優先するように動機付けられることを確実にします。

Public Benefit Corporation (PBC) ステータスとの統合

Anthropicは、デラウェア州のPublic Benefit Corporation (PBC) として法人化されています。デラウェア州法の下では、PBCの取締役は、株主の財務的利益と特定の公共の利益目的とのバランスを取ることが法的に認められています。Anthropicの掲げる目的は、「人類の長期的利益のための、高度なAIの責任ある開発と維持」です。

PBCのステータスは公共の利益を考慮するための法的自由度を提供しますが、Anthropicは、取締役が非株主のステークホルダーに対して直接的な責任を負うわけではないため、それでは不十分であると判断しました。LTBTは、変革的なAIのリスクを管理するために必要な、追加の責任とインセンティブの整合性の層として機能します。

ガバナンスの実験と柔軟性

Anthropicは、LTBTを実験であり「熟考された仮説」であると説明しています。耐久性の必要性と反復の必要性のバランスを取るために、この構造には以下が含まれています：

  • 段階的導入期間: Trustの権限は徐々に拡大し、会社の社会的影響が増大するにつれてチェック・アンド・バランスを強化しながら、初期段階では合理化されたガバナンスで会社が機能できるようにします。
  • 修正プロセス: ほとんどの調整は、受託者と取締役会または株主との間の合意によって行われます。しかし、「フェイルセーフ」条項により、株主の特別多数が同意すれば、受託者の同意なしに変更することが可能です。必要な特別多数の閾値は、Trustの権限が段階的に導入されるにつれて増加します。

初期の受託者

最初の5人の受託者は、1年間にわたる選考プロセスを経て選出され、任期は1年です。メンバーは以下の通りです：

  • Neil Buddy Shah (Chair), CEO of the Clinton Health Access Initiative
  • Jason Matheny, CEO of the RAND Corporation
  • Kanika Bahl, CEO and President of Evidence Action
  • Paul Christiano, Founder of the Alignment Research Center
  • Zach Robinson, Interim CEO of Effective Ventures US

Sources

関連