OpenAI 초지능 거버넌스 제안

OpenAI는 초지능의 거버넌스를 위한 프레임워크를 제안하여, 고성능 AI 시스템의 개발이 안전하고 사회에 원활히 통합될 수 있도록 하고자 합니다. 이 제안은 개발자 간의 협조, 국제 규제 기관 설립, 그리고 기술 안전 연구 추진에 초점을 맞추고 있습니다.

국제 협조 및 개발 속도

안전을 유지하고 사회 통합을 보장하기 위해, OpenAI는 선도적인 AI 개발 노력이 협조해야 한다고 제안합니다. 이러한 협조는 현재의 노력을 정부 주도 프로젝트에 통합하거나, 최전선 AI 능력의 성장률을 특정 연간 비율로 제한하는 집단 합의와 같은 여러 형태를 취할 수 있습니다.

OpenAI는 이 과정에서 개별 기업이 매우 높은 수준의 책임 있는 행동 기준을 충족해야 한다고 강조합니다.

글로벌 규제 기관 설립

OpenAI는 국제 원자력기구(IAEA)와 유사한 국제 기관을 설립하여 초지능 노력을 감독할 것을 제안합니다. 이 기관은 시스템이 특정 능력 또는 연산량 임계치를 초과할 때 발동됩니다.

제안된 기관의 주요 기능은 다음과 같습니다:

• 시스템을 검사하고 감사를 요구합니다.
• 안전 기준 준수를 테스트합니다.
• 배포 수준 및 보안 수준에 제한을 둡니다.
• 구현 가능성을 보장하기 위해 연산량 및 에너지 사용을 추적합니다.

이 기관은 존재 위험을 감소시키는 데 전적으로 집중해야 하며, 개별 국가가 관리해야 할 콘텐츠 검열 정책(예: AI가 말할 수 있는 내용 정의)과 같은 문제는 다루지 않아야 한다고 명시합니다.

기술 안전 및 공공 감독

초지능의 안전성을 보장하는 것은 현재 진행 중인 연구 과제입니다. OpenAI와 다른 조직들은 초지능을 안전하게 만들기 위한 기술적 도전을 해결하기 위해 상당한 노력을 투자하고 있습니다.

기술 안전을 넘어, 강력한 시스템과 그 배포 결정에 대한 거버넌스는 강력한 공공 감독을 필요로 합니다. OpenAI는 AI 시스템의 범위와 기본값을 결정하기 위한 민주적 과정을 옹호하면서, 개별 사용자가 이러한 설정 내에서 AI 행동에 대한 상당한 통제권을 유지해야 한다고 주장합니다.

초지능 개발의 근거

OpenAI는 위험에도 불구하고 이 기술 개발을 지속해야 하는 두 가지 주요 이유를 제시합니다:

1. 사회적 이익: 이 기술은 상당한 경제 성장, 삶의 질 향상, 그리고 교육, 창작 작업, 개인 생산성 등 분야에서 복잡한 글로벌 문제 해결에 기여할 것으로 기대됩니다.
2. 불가피성: OpenAI는 초지능 창조를 중단하는 것이 "직관에 반해 위험하고 어려운" 일이라고 주장합니다. 개발 비용이 감소하고, 참여 주체가 늘어나며, 현재 기술 추세가 지속되기 때문에, 이를 중단하려면 전 세계적인 감시 체제가 필요하지만, 그조차도 실패할 가능성이 있습니다. 따라서 초점은 개발을 올바르게 수행하는 데 맞춰야 합니다.