OpenAI 내부: 기술적 비전, 이사회 혼란, 그리고 AGI로 가는 길

최근 The Knowledge Project 팟캐스트 대화에서, OpenAI의 공동 창립자이자 사장인 Greg Brockman은 글로벌 AI 경쟁의 중심지가 된 이 회사의 내부 메커니즘을 엿볼 수 있는 드문 기회를 제공했습니다. Napa에서의 초기 전략 세션부터 2023년 11월 이사회의 극적인 쿠데타에 이르기까지, Brockman의 설명은 OpenAI의 원래 비영리 이상과 인공 일반 지능(AGI)을 구축하기 위한 엄청난 기술적 및 재정적 요구 사항 사이의 긴장 관계를 드러냅니다.

설계도: Napa 오프사이트와 3단계 계획

ChatGPT가 대중적인 이름이 되기 훨씬 전부터, OpenAI의 궤적은 Napa에서의 초기 오프사이트 기간 동안 결정되었습니다. Brockman에 따르면, 이 회의는 회사가 10년 동안 따라온 3단계 기술 계획을 만들어냈습니다. 구체적인 기술적 세부 사항은 여전히 비밀로 유지되고 있지만, 전반적인 전략은 모델의 반복적인 스케일링과 훈련 방법론의 정교화에 초점을 맞추고 있습니다.

흥미롭게도, 일부 관찰자들은 OpenAI의 성공이 LLM의 핵심 과제를 """우연히""" 해결한 결과일 수 있다고 언급했습니다. 한 논평가는 다음과 같이 말했습니다:

"무엇이 놀라운 점은 그들이 우연히 그것을 해결했다는 것입니다 — pretraining IS unsupervised learning at scale, RLHF IS reinforcement learning. 그들은 단지 아직 레시피를 알지 못했을 뿐입니다."

이러한 반복적인 접근 방식—대규모 pretraining과 인간 피드백을 통한 강화 학습(RLHF)을 결합하는 것—은 OpenAI가 업계의 선두를 유지할 수 있게 해주었지만, 동시에 조직 구조의 변화를 필요로 하게 만들었습니다.

전환점: 비영리에서 "이익 제한형(Capped-Profit)"으로

Brockman의 논의에서 가장 논쟁적인 부분 중 하나는 순수 비영리 단체에서 이익 제한형(capped-profit) 엔티티로의 전환입니다. Brockman은 원래의 비영리 구조가 프론티어 모델을 훈련시키기 위해 필요한 천문학적인 컴퓨팅 비용을 감당하기에 불충분하다고 설명했습니다. 글로벌 AI 경쟁에서 경쟁하고 필요한 하드웨어와 자본을 확보하기 위해, OpenAI는 원래의 사명을 포기해야 했습니다.

이러한 변화는 커뮤니티의 주목을 받지 않은 것이 아닙니다. 비판론자들은 이 전환이 회사의 설립 원칙에 대한 배신이라고 주장합니다. 일부는 비영리라는 라벨이 회사가 이익 극대화를 주된 목표로 삼는 규모에 도달할 때까지 전략적 방패로 사용되었다고 제안합니다.

OpenAI를 거의 무너뜨릴 뻔한 72시간

Brockman은 CEO Sam Altman의 해임 이후 발생한 혼란스러운 기간에 대해 생생하게 설명합니다. 그는 즉각적인 여파파를 설명합니다: 이사회로부터의 전화, Altman과 연대하여 사임하기로 한 자신의 결정, 그리고 OpenAI를 복구할 수 없을 경우 인재와 자원을 수용하기 위한 백업 회사인 "Phoenix"를 설계하기 위해 Altman의 집에서 보낸 긴박한 시간들을 말합니다.

전환점은 이사회의 협상에서 온 것이 아니라 직원들로부터 왔습니다. 대다수의 직원이 서명한 거대한 연대 서명문은 Altman이 복직될 경우를 전제로 Altman이 복직되지 않으면 회사를 떠나겠다고 위협했습니다. Brockman은 서명 인원이 너무 많아 실제로 Google Docs가 다운되었을 정도였다고 회상합니다.

하지만, 이 사건은 OpenAI의 인프라를 기반으로 구축하는 개발자들에게 치명적인 취약성을 부각시켰습니다. 한 개발자는 다음과 같이 언급했습니다:

"그들의 API를 기반으로 제품을을 구축하는 것은 이러한 드라마틱한 주말을 테러리즘처럼 느끼게 만듭니다. 이사회가 멋대로 행동하기로 결정할 때 당신의 전체 스택이 얼마나 취약한지 정말로 깨닫게 해줍니다."

미래: AI가 작성한 코드와 AGI로 가는 길

앞으로를 바라보며, Brockmanman은 AI가 이제 OpenAI 자체를 구축하는 방식에 근본적으로 변화시키고 있는 방식에 대해 언급합니다. OpenAI의 자체 코드 중 AI가 작성한 비율이 어느 정도인지 묻는 질문에, Brockman은 AI가 작성하지 not 작성한 비율이