사姆 올트먼의 유엔 안전보장이사회 연설: AI 거버넌스

TL;DR

사姆 올트먼은 유엔 안전보장이사회에서 인공지능이 강력한 인간의 감시 아래 두어야 하며, 권력의 집중이나 통제 상실을 방지하기 위해 조율된 국제 기준에 따라 규제되어야 한다고 강조했다.

이 발언은 오픈AI가 민주적이고 인간 중심의 AI 개발에 공개적으로 기여하겠다는 의지를 보여주며, 글로벌 기관들이 강제 가능한 안전성 및 감시 프레임워크를 마련할 것을 촉구한다.

인간의 주도성은 논의의 여지가 없다 – 올트먼은 AI가 인간의 판단과 가치를 대체하기보다는 보완해야 한다고 강조한다.
통제 상실의 위험 – 그는 자기 개선이 반복되면서 제도적 개입 능력을 뛰어넘을 수 있으며, 어떤 확률 추정이든 재앙적 위험은 용납될 수 없다고 경고한다.
권력 집중의 위험 – 하나의 실체(기업, 국가, 개인)가 최첨단 모델을 장악하게 되면 세계 인구 전체에 단일한 세계관을 강요할 수 있다.

"이 모든 수준은 전혀 수용할 수 없습니다. 우리가 인간의 통제 아래 두는 데 매우 강력한 근거를 제시할 수 없는 모델을 훈련해서는 안 됩니다." – 사姆 올트먼

사람 중심의 의사결정 – 일치화 작업은 시스템이 인간의 통제 아래 유지되며 보편적인 인간 가치를 반영하도록 해야 한다.
모든 이에게 이익 제공 – AI는 인간의 주도권을 대체하는 것이 아니라 과학적 발견을 가속화하고, 의료, 교육, 경제 생산성을 향상시켜야 한다.
개인의 능력 강화 – 기술은 개인의 자유와 공동체 문제 해결 능력을 확장해야 하며, 오픈AI는 주인공이 아니라 지원자로서 위치한다.

수학적 돌파구 – 오픈AI의 모델은 몇 년 만에 초등학교 수준 수학에서 밀레니엄 상 문제(나비에-스토크스 방정식)를 해결하는 수준으로 발전했으며, 능력 성장 속도를 보여준다.
응용 가능성 – 나비에-스토크스 방정식 해결은 항공기 설계, 기상 예보, 의학 연구에 영향을 미치며, AI가 실제 세계의 진보를 가능하게 할 수 있음을 강조한다.

기준 설정 – 올트먼은 AI 능력 측정, 위험 평가, 보호 조치 검증을 위한 보완적인 국가 및 국제 기준을 제안한다.
사고 보고 – 실패를 재앙으로 이어지기 전에 신속하고 정확하게 분류하고 보고하는 프로토콜을 지지한다.
안전한 통신 채널 – 정부, 핵심 인프라 운영자, 기술 전문가 간의 취약점 정보를 교환하기 위한 전용 링크가 필요하다.
중립적인 기준 – 어떤 프레임워크도 기존 기업이나 특정 비즈니스 모델을 우대하거나 고착화해서는 안 되며, 오픈소스와 클로즈드소스 개발자 모두를 지원해야 한다.

"AI가 민주적이기 위해서는 가장 중요한 결정이 샌프란시스코의 연구소에서만 내려져서는 안 된다. 그 결정은 민주적 과정을 통해, 국민을 대변하는 정부에 의해 만들어져야 한다." – 사姆 올트먼

올트먼은 후자의 비전이 오픈AI가 함께 구축하고자 하는 미래라고 결론짓는다.

긴급성 – AI의 시간표가 급격히 단축되고 있어, 반응적인 조치가 아니라 즉각적인 정책 행동이 필요하다.
협력 – 오픈AI는 정부와 전문가들과 협력할 의사가 있음을 시사하며, 더 나은 아이디어와 공동 문제 해결을 환영한다.
책임의 기준 – 이 연설은 다른 AI 연구소들이 안전성 약속을 명확히 하고, 투명하며 인간 중심적인 개발 방식을 채택할 수 있는 공개 기준을 제시한다.

이 기사는 2026년 9월 23일 오픈AI가 발표한 사姆 올트먼의 유엔 안전보장이사회 연설 전문을 종합한 것이다.