앤트로픽 장기적 이익 신뢰 기구 거버넌스 구조

앤트로픽은 전환적 인공지능의 개발이 인류의 장기적 이익과 일치하도록 보장하기 위해 독립적인 거버넌스 기관인 장기적 이익 신뢰(LTBT)를 설립했습니다. 이 구조는 전통적인 기업 거버넌스가 종종 고려하지 못하는 거대한 사회적 외부효과(예: 국가 안보 리스크 및 경제적 혼란)를 해결하기 위한 것입니다.

장기적 이익 신뢰의 역할

장기적 이익 신뢰는 5명의 재정적 이해관계가 없는 이사들로 구성된 독립된 기관입니다. 주된 목적은 기업 리더십에 대한 견제를 제공하고, 앤트로픽이 주주들의 재정적 이익과 공공의 이익 목표 사이에서 균형을 이루도록 보장하는 것입니다.

LTBT의 주요 특징은 다음과 같습니다:

  • 이사회 감독: 신뢰 기관은 앤트로픽 이사회 일부를 선출하고 해임할 권한을 보유하고 있습니다. 이 권한은 시간이 지남에 따라 점진적으로 확대되며, 신뢰 기관은 4년 이내에 이사회의 과반수를 선출할 예정입니다.
  • T급 주식: 신뢰 기관은 새로운 주식 종류(클래스 T)를 독점적으로 보유하며, 이는 이사 선임 권한과 함께 회사나 사업에 중대한 변화를 초래할 수 있는 조치에 대해 신뢰 기관에 통보를 요구하는 '보호 조항'을 제공합니다.
  • 독립성: 이사들은 인공지능 안전, 국가 안보, 공공 정책, 사회적 기업 분야의 전문성을 기반으로 선정되며, 앤트로픽에 대한 재정적 이해관계로부터 의도적으로 격리되어 있습니다.

인공지능의 시장 외부효과 대응

앤트로픽은 전통적인 기업 거버넌스가 주주들의 재정적 이익을 우선시하도록 설계되어 있다는 점을 지적합니다. 이는 이사들이 주주들에 의해 선출되고 법적으로 주주들에게 책임을 지기 때문입니다. 이로 인해 기업의 활동이 제3자에게 큰 '외부효과'(비용 또는 이익)를 초래할 경우 위험이 발생할 수 있습니다.

앤트로픽은 상업적 성공과 공공의 이익이 종종 상호보완적이라는 점(상업적 자원이 안전 연구를 지원함)을 인정하지만, LTBT는 특히 '극단적인 사건'에 대비하기 위해 설계되었습니다. 신뢰 기관은 리더십이 시장 선도보다는 치명적인 리스크 평가 및 국가 수준의 보안을 우선시하도록 유인합니다.

공공 이익 회사(PBC) 지위와의 통합

앤트로픽은 델라웨어 공공 이익 회사(PBC)로 등록되어 있습니다. 델라웨어 법에 따르면, PBC의 이사들은 주주들의 재정적 이익과 명시된 공공 이익 목적 사이에서 균형을 유지할 수 있습니다. 앤트로픽의 공식 목적은 '인류의 장기적 이익을 위한 고도의 인공지능의 책임 있는 개발 및 유지'입니다.

PBC 지위는 공공의 이익을 고려할 수 있는 법적 여지를 제공하지만, 앤트로픽은 이 지위만으로는 주주가 아닌 이해관계자들에 대해 이사들이 직접적인 책임을 지지 않는다는 점에서 부족하다고 판단했습니다. LTBT는 전환적 인공지능의 리스크를 관리하기 위해 필요한 추가적인 책임과 인센티브 일치를 제공합니다.

거버넌스 실험과 유연성

앤트로픽은 LTBT를 실험과 '신중한 가정'으로 묘사합니다. 내구성과 반복 개선의 필요성을 균형 있게 유지하기 위해 구조에는 다음과 같은 요소가 포함되어 있습니다:

  • 단계적 도입 기간: 신뢰 기관의 권한은 점진적으로 확대되며, 초기에는 간소화된 거버넌스로 운영되지만, 회사의 사회적 영향력이 커질수록 감시와 균형이 강화됩니다.
  • 수정 절차: 대부분의 조정은 이사들과 이사회 또는 주주들 간의 합의를 통해 이루어지지만, '안전장치' 조항을 통해 주주 과반수의 동의가 있으면 이사회의 동의 없이도 변경이 가능합니다. 신뢰 기관의 권한이 확대될수록 필요한 과반수 기준은 높아집니다.

초기 이사들

초기 5명의 이사는 1년간의 검토 과정을 거쳐 선정되었으며, 1년의 임기를 맡습니다. 그들은 다음과 같습니다:

  • 닐 버디 샤 (의장), 클린턴 건강 접근 이니셔티브 CEO
  • 재슨 매테니, RAND Corporation CEO
  • 카니카 바할, 이비던스 액션 CEO 및 회장
  • 폴 크리스티아노, 어라이어먼트 리서치 센터 창립자
  • 제이크 로빈슨, 이펙티브 벤처스 미국 임시 CEO

"이 구조는 인공지능의 장기적 영향을 고려한 새로운 거버넌스 모델의 실험입니다. 우리는 기업의 성장과 책임 있는 리더십 사이의 균형을 유지하는 데 집중하고 있습니다." — @anthropic

Sources

관련