OpenAI AGI 배포 및 개발 전략 계획
OpenAI AGI 배포 및 개발 전략 계획
OpenAI는 힘과 AI 기능에 대한 광범위한 배포와 접근을 우선시하여 인공 일반 지능(AGI)이 인류 전체에 이익이 되도록 하는 전략 계획을 발표했습니다. 회사는 몇 개의 주체 사이에 권력이 집중되는 것을 방지하고 대신 개인이 자신의 목표를 추구할 수 있도록 AI가 힘을 주는 탄력적인 생태계를 조성하는 것을 목표로 합니다.
세 가지 주요 전략 목표
OpenAI는 post-AGI 세계로의 전환을 이끌기 위해 세 가지 주요 목표를 추구하고 있습니다:
- 자동화된 AI 연구자 구축: OpenAI는 연구 프로세스를 가속화하고 자동화할 수 있는 AI 시스템을 개발하려고 합니다. 회사는 2028년 3월까지 연구의 상당 부분이 인간 연구원과 협력하여 작동하는 AI 시스템에 의해 수행될 수 있다고 믿습니다. 이는 정렬 문제에서의 진전을 위한 중요한 요구 사항으로 간주됩니다.
- 경제 가속화: 목표는 과학적 진보, 생산성, 경제 성장을 촉진하면서도 결과적인 경제적 이익이 사회 전반에 넓게 공유되도록 보장하는 것입니다.
- 개인 AGI 제공: OpenAI는 지구상의 모든 사람에게 개인 AGI를 제공하여 개인이 원하는 방식으로 기술을 사용할 수 있도록 권한을 부여하는 것을 목표로 합니다.
OpenAI의 세 번째 단계
회사는 현재 진화의 '세 번째 단계'로의 전환을 다음과 같이 설명합니다:
- Phase One: AGI를 향한 기초 연구에 중점을 둡니다.
- Phase Two: 제품 회사로 전환하여 실제 세계에 시스템을 배포하고 사용자 상호작용으로부터 학습하여 안전성과 정렬성을 보장합니다.
- Phase Three: 고급 AI를 풍부하고, 저렴하며, 안전하고 접근 가능하도록 만드는 데 중점을 둡니다. 현재 우선순위는 사람들이 조직이 번성할 수 있도록 실용적인 도구로 frontier capability를 전환하는 것입니다.
인간 주체성과 판단의 역할
OpenAI는 모든 작업의 완전 자동화가 원하는 미래가 아니라고 말합니다. 대신 AI는 인간 능력을 보완하도록 의도되었습니다. 회사는 AI 시스템이 더욱 능숙해짐에 따라 방향 설정, tradeoff 적용, 판단 적용, 그리고 작업에 가치와 책임을 가져오는 인간의 역할이 더욱 중요해짐을 강조합니다. 인간의 장기적 역할은 '할 가치가 있는 것'을 결정하는 것이 될 것입니다.
글로벌 조정 및 안전
katastrofic 위험을 완화하고 상업 및 국가 경쟁의 인센티브를 관리하기 위해 OpenAI는 선도적인 AI 노력을 조정하는 국제 기구의 창설을 옹호합니다. 이 기구는 공유 안전 표준을 수립하고, 필요 시 최전선 개발을 늦추는 등의 행동을 조정하여 사회의 탄력성, 안전성, 그리고 정렬성이 보조를 맞출 수 있도록 할 수 있습니다.
AI 탄력성과 힘 분배
OpenAI는 'AI 탄력성'을 사회가 AI로 인한 교란을 예상하고 회복하기 위해 구현해야 하는 집단적인 시스템, 조직, 그리고 개인으로 정의합니다. 회사는 집중된 힘이 취약성을 만든다고 주장하며, ampliamente 공유된 힘이 사회를 더 탄력적이고 적응 가능하게 만든다고 주장합니다. 따라서 회사는 접근성, 개인 정보 보호, 가격 부담 능력, 그리고 공공 감독이 성공적인 AI 미래의 필수 구성 요소라고 봅니다.