Anthropic 長期利益信託治理結構

Anthropic 已成立長期利益信託 (Long-Term Benefit Trust, LTBT)，這是一個獨立的治理機構，旨在確保變革性 AI 的開發與人類的長期利益保持一致。此結構旨在應對潛在的大規模社會外部性——例如國家安全風險和經濟動盪——而傳統的公司治理往往無法考慮到這些因素。

長期利益信託的角色

長期利益信託是一個由五位在財務上無利害關係的受託人組成的獨立機構。其主要目的是對公司領導層進行制衡，並確保 Anthropic 在股東的財務利益與其公共利益使命之間取得平衡。

LTBT 的關鍵特徵包括：

• 董事會監督：信託持有選舉和撤換 Anthropic 部分董事會成員的權力。這項權力將隨著時間逐步導入，預計信託將在四年內選舉出董事會的多數成員。
• Class T 股票：信託專屬持有新的一類股票 (Class T)，這賦予其任命董事會成員的權力，並提供「保護性條款」，要求在可能顯著改變公司或其業務的行動中必須通知信託。
• 獨立性：受託人是根據在 AI 安全、國家安全、公共政策和社會企業方面的專業知識而選出的，並刻意與 Anthropic 的財務利益隔離開來。

應對 AI 中的市場外部性

Anthropic 主張，傳統的公司治理旨在優先考慮股東的財務利益，因為董事是由股東選舉產生，並在法律上對股東負責。當公司的活動產生顯著的「外部性」——即對非交易參與方的第三方施加的成本或利益時，這會產生風險。

雖然 Anthropic 指出商業成功與公共利益通常具有協同效應——例如商業資源資助了安全研究——但 LTBT 是專為「極端事件」而設計的。信託確保領導層有動力去優先考慮災難性風險評估和國家級別的安全，而非僅僅追求成為市場首發者。

與公共利益公司 (PBC) 身分的身份整合

Anthropic 已在特拉華州註冊為公共利益公司 (Public Benefit Corporation, PBC)。根據特拉華州法律，PBC 的董事在法律上被允許在股東的財務利益與特定的公共利益目標之間取得平衡。Anthropic 的既定目標是「為人類的長期利益，負責任地開發與維護先進的 AI」。

雖然 PBC 身分提供了考慮公共利益的法律空間，但 Anthropic 認為這是不夠的，因為它無法讓董事直接對非股東利益相關者負責。LTBT 作為管理變革性 AI 風險所需的額外問責機制與激勵機制對齊層。 問責機制與激勵機制對齊層。

治理實驗與靈活性

Anthropic 將 LTBT 描述為一項實驗和一個「深思熟慮的假設」。為了在持久性需求與迭代需求之間取得平衡，該結構包括：

• 逐步導入期：信託的權力會逐漸增長，允許公司在早期階段以精簡的治理結構運作，同時隨著公司對社會的影響力增長，增加制衡機制。
• 修訂程序：大多數調整是由受託人與董事會或股東之間達成協議而進行的。然而，「故障安全」條款允許在股東超多數決議通過的情況下，無需受託人同意即可進行變更。所需的超多數門檻會隨著信託權力的逐步導入而提高。

初始受託人

初始的五位受託人是在經過為期一年的搜尋過程後選出的，任期為一年。他們包括：

• Neil Buddy Shah (Chair), CEO of the Clinton Health Access Initiative
• Jason Matheny, CEO of the RAND Corporation
• Kanika Bahl, CEO and President of Evidence Action
• Paul Christiano, Founder of the Alignment Research Center
• Zach Robinson, Interim CEO of Effective Ventures US