Anthropic 长期利益信托治理结构
Anthropic 已经建立了长期利益信托 (Long-Term Benefit Trust, LTBT)，这是一个独立的治理机构，旨在确保变革性 AI 的开发始终与人类的长期利益保持一致。这一结构应对了潜在的大规模社会外部性——例如国家安全风险和经济动荡——而传统的公司治理往往无法考虑到这些因素。
The Role of the Long-Term Benefit Trust
长期利益信托是一个由五名在财务上无利益关系的受托人组成的独立机构。其主要目的是对公司领导层进行制衡，并确保 Anthropic 在股东的财务利益与其公共利益使命之间取得平衡。
LTBT 的关键特征包括：
- Board Oversight: 受托人拥有选举和罢免 Anthropic 部分董事会成员的权力。这一权力将随着时间的推移逐步引入，计划在四年内由信托机构选举出董事会的大多数成员。
- Class T Stock: 信托机构独家持有新的一类股票 (Class T)，这赋予了它任命董事会成员的权力，并提供了“保护性条款”，要求在可能显著改变公司或其业务的行动中必须通知信托机构。
- Independence: 受托人根据其在 AI 安全、国家安全、公共政策和社会企业方面的专业知识进行选择，并刻意地与 Anthropic 的财务利益隔离开来。
Addressing Market Externalities in AI
Anthropic 认为，传统的公司治理旨在优先考虑股东的财务利益，因为董事是由股东选举产生并对股东承担法律责任的。当公司的活动产生显著的“外部性”——即施加于非交易参与方的第三方的成本或收益时，这会产生风险。
虽然 Anthropic 指出商业成功与公共利益通常是协同的——例如商业资源为安全研究提供资金——但 LTBT 是专门为“极端事件”设计的。信托机构确保领导层有动力去优先考虑灾难性风险评估和国家级安全，而不是像“抢占市场首发”这样的目标。
Integration with Public Benefit Corporation (PBC) Status
Anthropic 是作为特拉华州公共利益公司 (Public Benefit Corporation, PBC) 注册成立的。根据特拉华州法律，PBC 的董事在法律上被允许在股东的财务利益与特定的公共利益目标之间取得平衡。Anthropic 声明的目标是“为人类的长期利益负责任地开发和维护先进的 AI。"
虽然 PBC 身份提供了考虑公共利益的法律空间，但 Anthropic 认为这并不足够，因为它并不能让董事对非股东利益相关者直接负责。LTBT 作为管理变革性 AI 风险所需的额外问责机制和激励对齐机制层。
Governance Experiment and Flexibility
Anthropic 将 LTBT 描述为一项实验和一种“深思熟虑的假设”。为了在持久性需求与迭代需求之间取得平衡，该结构包括：
Phase-in Period: 信托机构的权力会逐渐增长，允许公司在早期阶段以精简的治理结构运行，同时随着公司社会影响力的增长而增加制衡机制。
Amendment Process: 大多数调整是通过受托人与董事会或股东之间的协议达成的。然而，“故障保险”条款允许在股东超级多数通过的情况下，无需受托人同意即可进行变更。所需的超级多数阈值会随着信托机构权力的逐步引入而增加。
Initial Trustees
最初的五名受托人是在为期一年的搜索过程后选出的，任期为一年。他们包括：
- Neil Buddy Shah (Chair), CEO of the Clinton Health Access Initiative
- Jason Matheny, CEO of the RAND Corporation
- Kanika Bahl, CEO and President of Evidence Action
- Paul Christiano, Founder of the Alignment Research Center
- Zach Robinson, Interim CEO of Effective Ventures US
Sources
- OriginalThe Long-Term Benefit Trust
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch