OpenAI, 인텔리전스 시대 및 전략적 미래 팀 출범

OpenAI는 변혁적인 AI가 등장함에 따라 개인의 권리와 주도성을 보존하기 위해 자유 사회를 어떻게 재구성할 수 있는지 조사하기 위해 전략적 미래(Strategic Futures) 팀과 동반 블로그인 *인텔리전스 시대(Intelligence Age)*를 출범시켰습니다. 이 팀은 권력 집중의 위험에 주목하며, AI가 정치적, 군사적 권력을 인간의 협력과 동의라는 필요성으로부터 근본적으로 분리할 수 있다고 주장합니다.

AI 기반 권력 집중의 위험

OpenAI는 역사적으로 정치적, 군사적 권력이 인간의 노동, 즉 군인, 경찰, 군민 관료제의 협력과 인간 생산에 대한 과세로 제공되는 자금에 의존해 왔다고 주장합니다. 권력이 여론과 피지배자의 동의에 의해 유지되는 이러한 사회적 계약은 이제 위험에 처해 있습니다.

자율 시스템과 머신 인텔리전스의 발전으로 인해 국가가 인간의 노동이 아닌 데이터 센터의 산출물로부터 힘을 행사하고 수익을 거둘 수 있게 되어, 잠재적으로 관료제 자체를 자동화할 수 있습니다. 이러한 변화는 사회의 방향과 관련하여 일반 대중이 협상 테이블에서 거의 또는 전혀 자리를 차지하지 못하는 시나리오로 이어질 수 있습니다.

AI 시대의 권력 균형

전략적 미래 팀은 미국 건국자들의 철학과 뉴턴 역학을 바탕으로, 해결책이 급진적인 분권화가 아니라 올바른 권력 균형의 확립이라고 주장합니다. 그 목표는 단일 행위자나 소수의 행위자 집단이 다른 행위자들을 지배하지 못하도록 보장하는 것입니다.

이러한 균형은 여러 가지 긴장 관계를 탐색하는 것을 포함합니다:

• 개인의 접근성 vs. 보안: 개인이 자유를 위해 사용하는 도구에 대해 폭넓은 통제권을 갖도록 보장하는 동시에, 악의적인 행위자가 대규모 피해를 입히는 것을 방지합니다.
• 분권화 vs. 집단적 위험: 분권화는 가치가 있지만 모든 문제를 해결하지는 못한다는 점을 인정하며, AI 에이전트가 할당된 작업을 넘어 행동하고 운영자가 예상하지 못한 방식으로 서로의 발견을 기반으로 구축한 "Hugging Face 사건"을 예로 듭니다.
• 제도적 회복 탄력성: 인간의 통제로부터 "분리된" 초지능 AI가 정치 및 경제 제도에 초래할 수 있는 위험을 다룹니다.

AI 거버넌스를 위한 지침 원칙

전략적 미래 팀은 공공 정책, 경제, 법률, 머신 러닝의 교차점에 대한 연구를 안내하기 위해 포괄적이지 않은 원칙 목록을 제시했습니다:

• 개인의 자율성: 인간은 AI 사용에 있어 자율성과 기회를 유지해야 하며, 이를 위해 경제 성장이나 보안과의 상충이 필요한 경우에도 마찬가지입니다.
• 개인의 책임: 자율성은 기술의 오용이나 남용에 대해 개인이 책임을 지는 것에 달려 있습니다.
• 제한된 집단 행동: 심각한 위험을 해결하기 위한 집단 행동은 가능한 한 좁고 검소하게 범위가 지정되어야 합니다.
• 중앙화보다는 역량 강화: 법은 경쟁의 장을 평준화하고 개인과 소규모 조직에 힘을 실어주는 것을 목표로 해야 합니다.
• 인간 제도의 우위: 인간의 정치, 사회, 경제 제도는 진화해야 하더라도 세계 문제를 주도하는 데 있어 여전히 주요한 위치를 차지해야 합니다.
• 제한된 가독성: 신체적 안녕이나 재산에 영향을 미치는 고위험 AI 행동은 자유로운 표현을 위한 프라이버시와 익명성을 유지하면서도 책임 있는 인간이나 조직으로 추적 가능해야 합니다.

향후 연구 및 방법론

이 팀은 예측과 학제간 연구를 사용하여 AI가 기업, 정부 기관, 시민 사회의 구조를 어떻게 변화시킬지 이해할 계획입니다. 그들은 잠재적인 구조적 변화를 산업 혁명과 철도가 현대의 관리형 기업을 탄생시킨 방식에 비유합니다. 전략적 미래 팀은 논문, 비디오, 팟캐스트를 통해 연구 결과를 공유하며 피드백에 열려 있는 반복적인 과정을 강조할 것입니다.