OpenAI 다음 단계 AI를 위한 기준 마련

OpenAI는 선도적인 AI 개발을 위한 글로벌 기술 기준 마련을 제안했다. 이 이니셔티브는 AI 시스템이 자체 연구 및 개발 과정에서 더 자율적으로 작동하게 되는(재귀적 자기 개선(RSI)이라고 알려진) 과정이 진행됨에 따라, 인간의 가치와 인간의 통제 하에 남아 있도록 보장하려는 목적이 있다.

재귀적 자기 개선(RSI)과 AI 연구

자동화된 AI 연구는 AI 시스템이 다음 세대 AI 개발에 필요한 작업의 일부를 수행하게 한다. 이 재귀적 자기 개선(RSI) 과정은 점점 더 자동화되면서 AI 발전 속도를 급격히 가속화할 수 있다.

OpenAI는 RSI와 관련된 몇 가지 잠재적 이점과 위험을 식별했다:

• 이점: 자동화된 AI 연구는 고급 지능의 비용을 낮추고, 사람들의 삶을 향상시키며, 능력 있는 AI에 대한 대비를 위해 안전 연구를 자동화하는 역할을 할 수 있다.
• 위험: 완전히 자율적인 RSI는 인간이 AI 개발에 대한 실질적인 통제력을 상실하게 만들 수 있으며, 더 위험하고 인간의 가치와 일치하지 않는 시스템을 초래할 수 있다. OpenAI는 안전하게 수행할 수 없다면 완전히 자율적인 RSI를 추구해서는 안 된다고 강조한다.

국제 기준의 필요성

OpenAI는 분열을 방지하고, 집단적 행동 문제를 해결하며, 각국 간 역량 격차를 극복하기 위해 국제 기준이 필요하다고 주장한다. 고급 증거의 공통 정의와 기술적 보호 장치에 대한 합의된 기준이 없으면, 각국이 독자적으로 행동하고 안전 장치를 무시할 가능성이 있는 '하향 경쟁'의 위험이 있다.

이러한 도전은 오픈 모델 개발자와 폐쇄 모델 개발자 모두에게 해당된다. OpenAI는 연구소가 안전에 대해 개인적인 책임을 져야 하지만, 국제 기준은 외부 이해관계자가 기술의 발전 방향에 대해 목소리를 낼 수 있는 길을 제공한다고 강조한다.

글로벌 기준을 위한 제안 프레임워크

OpenAI는 미국이 다른 국가들과 협력해 이러한 글로벌 기술 기준을 개발하는 데 주도적인 역할을 해야 한다고 제안한다. 제안된 프레임워크는 두 가지 주요 구성 요소로 이루어져 있다:

1. 보완적인 국가 및 국제 기준을 위한 메커니즘

OpenAI는 오스트레일리아, 캐나다, 독일, 프랑스, 케냐, 일본, 한국, 싱가포르, 인도, 영국에 위치한 AI 안전 연구소 네트워크와 AI 기준 및 혁신 센터(CAISI)를 활용할 것을 제안한다. 이 노력은 능력 기준으로 측정되는 선도적인 AI 모델과 개발자, 그리고 자동화된 AI 연구의 위험-이익 관리에 초점을 맞출 것이다.

이 기준의 주요 특징은 다음과 같다:

• 기술적 기반: 능력 측정, 위험 평가, 보호 장치의 충분성에 대한 공통 기반을 제공한다.
• 비구속성: 이 기준은 라이선스나 의무적인 사전 검토가 아니다. 각국 정부는 자체 법적 체계에 이를 어떻게 통합할지 결정한다.
• 포괄적 개발: 오픈 모델 및 폐쇄 모델 개발자, 학계, 독립 전문가를 포함한 논의를 통해 특정 기업이나 비즈니스 모델에 유리한 기준이 되지 않도록 해야 한다.

2. 공통 측정 기준과 사고 보고 프로토콜

AI 연구의 자율성 증가를 관리하기 위해 OpenAI는 다음과 같은 기준을 제안한다:

• RSI 관련 진전 평가: 기업 내에서 자율적인 연구가 얼마나 진행되고 있는지 측정한다.
• 인간 감시: 자동화된 연구 프로세스 중 어떤 것이 즉각적인 인간 검토를 유도해야 하는지 정의한다.
• 주권적 소통: 정부와 핵심 인프라 운영자 간에 국가 안보 우려와 새로운 취약점을 공유할 수 있는 안전한 채널을 마련한다.

미국의 전략적 위치

OpenAI는 AI 발전 속도를 조절하는 것은 정렬 연구가 능력 개발을 앞서가도록 보장하는 것이라고 주장한다. 미국은 AI 산업이 기술적 선두에 있으며 글로벌 금융, 무역, 방위에서 특권적인 위치를 가지고 있기 때문에, 이 노력의 주도권을 쥘 수 있는 유일한 국가라고 본다. 이 주도권을 통해 미국은 분열되고 갈등이 있는 시스템에 대응하는 것이 아니라, 글로벌 AI 프레임워크를 형성할 수 있다.