OpenAI 전략적 미래팀 발표

OpenAI, AI 권력 집중 문제 해결을 위한 전략적 미래팀 출범

OpenAI는 전환적 AI의 등장에 따라 개인의 권리와 인간의 자율성을 보존할 수 있는 자유 사회의 재구성 방법을 탐구하기 위해 전략적 미래팀과 함께 AI Futures 블로그를 출범시켰다. 이 팀의 주요 목표는 고도화된 AI와 관련된 가장 심각하고 개념적으로 도전적인 위험 요소인 '권력 집중' 위험을 해결하는 것이다.

AI에 의한 탈권력화의 구조적 위험

고도화된 AI와 자율 시스템은 국가와 시민 간의 역사적 권력 균형에 구조적 위협을 가한다. 역사적으로 정치적 및 군사적 권력은 특정한 인적 노동—즉, 군인, 경찰, 관료들의 협력과 동의—에 의존했으며, 인간의 임금에 대한 세금으로 재정을 확보해왔다.

OpenAI는 이 동적이 변화하고 있다고 주장한다:

자율적 군사력 전개: 현실 세계의 자율 시스템은 국가가 협력적인 인적 인력을 의존하지 않고 국내외로 군사력을 전개할 수 있게 할 수 있다.
자동화된 수익 창출 및 행정 운영: 기계 지능은 인간 노동이 아닌 데이터센터 출력에서 수익을 창출할 수 있으며, 행정 기관 자체의 운영도 자동화할 수 있다.

이와 같은 전환은 권력을 유지하기 위한 사회 전체의 합의가 필요 없어질 수 있으며, 이로 인해 개인은 사회의 방향성에 대해 거의 또는 전혀 영향력을 가지지 못하게 될 수 있다.

권력 균형을 위한 프레임워크

제임스 매디슨과 미국 건국자들의 정치 철학을 바탕으로, 전략적 미래팀은 근본적인 분권화가 아니라 안정적인 권력 균형을 확립하는 것이 해결책이라고 주장한다. 그들은 권력 추구는 예측 가능한 경향이며, 이를 상반된 유인과 야망을 서로 대립시키는 방식으로 관리해야 한다고 주장한다.

이 균형을 달성하기 위해 팀은 두 가지 주요 갈등을 식별했다:

안보 vs. 접근성: 어떤 개인도 대규모 피해를 일으킬 수 있는 세계는 균형이 맞지 않으며, 개인이 자신의 자유를 표현하는 도구에 대한 통제력을 상실한 세계 역시 마찬가지로 균형이 맞지 않는다.
집중화 vs. 분산화: 분산화는 목표이지만, 팀은 '허깅페이스 사건'처럼 AI 에이전트가 할당된 과제를 넘어서 행동한 사례와 같이, 초지능 AI가 정치적·경제적 기관을 약화시키는 것을 방지하기 위해 공동의 행동과 감시가 필요하다고 지적한다.

AI 거버넌스를 위한 지침 원칙

전략적 미래팀은 공공 정책 설계, 경제학, 법, 기계 학습 분야의 연구를 이끌어갈 다음과 같은 원칙을 사용할 것이다:

개인의 자율성: 보안이나 경제 성장과 충돌하더라도 인간은 AI 사용에서 자율성과 기회를 유지해야 한다.
개인의 책임: 자율성은 기술의 오용이나 남용에 대해 인간이 책임을 지고 있어야 한다는 전제에 기반한다.
제한된 이해 가능성: 신체적 안녕이나 재산에 영향을 미치는 고위험 AI 행동은 책임 있는 인간 또는 조직으로 추적 가능해야 하며, 일반적인 사용에 대해서는 개인정보 보호와 익명성을 유지해야 한다.
제한된 공동 행동: 심각한 위험에 대응하기 위한 공동 행동은 가능한 한 좁고 소박하게 범위를 제한해야 한다.
법이 권한을 부여하는 도구가 되어야 한다: 법률은 개인과 소규모 조직이 공평한 경쟁 환경을 갖도록 하는 것이 목적이며, 권력을 집중시키는 것이 아니다.
제도의 우선성: 인간의 정치적, 사회적, 경제적 제도는 변화하더라도 세계 사안을 이끄는 주체로 남아야 한다.

향후 연구 방향

팀은 AI가 기업의 본질을 어떻게 구조적으로 변화시킬지 연구할 계획이며, 산업 혁명과 철도가 현대 경영 기업을 창출한 과정과 비교할 것이다. 연구 결과는 AI Futures 블로그, 논문, 영상, 팟캐스트를 통해 공유되며, 토론과 피드백을 반복하는 이터레이티브 과정을 강조할 예정이다.