Sam Altman의 규모, AGI, 그리고 프론티어 시스템의 미래에 대해

AI 시대의 새로운 스타트업 플레이북

인공지능은 회사를 시작하는 경제학을根本적으로 바꾸었다. Sam Altman은 창업자가 전략적으로 토큰에 지출함으로써以前에는 100명 규모의 엔지니어 팀이 필요했던 것을 이제 달성할 수 있다고 주장한다. 이 변화는 초기 스타트업에게以前에는 불가능했던 야망, 속도, 병렬 실행의 수준을 가능하게 한다.

Altman은 많은 창업자가 명백한 문제를 해결하려 하지만, 가장 중요한 기회는 종종 명백하지 않은 시장—현재 몇 개 회사만이 추구하고 있는 잠재적 다조 달러 산업—이라고 지적한다. 그는 현재 자동화된 코딩 시대가 이러한 명백하지 않은, 대규모 기회를 추구할 수 있게 한다고 강조한다.

규모의 경험적 힘

규모는 단순히 양적인 증가가 아니라 발생 특성을 만들어내는 질적인 변화이다. Altman의 핵심 믿음은 경험적 관찰에 기반한다: 이전에 시도되지 않은 규모로 시스템을 밀어나가면しばしば 합의된 기대를 훨씬 넘는 수익을 낳는다.

시스템 설계 속성으로서의 규모

발생 특성: Altman은 Y Combinator를 예로 들며, 배치당 회사 수를 늘리면서 작은 규모에서는 존재하지 않았던 네트워크 효과가 생성되었다고 지적한다.
수익 예측: 그는 시스템이 작은 규모에서 흥미롭게 작동할 때, 전문가들이 수익이 감소할 것이라고 제안하더라도 대규모로 밀어붙이는 것이 종종 생산적인 베팅이라고 주장한다.
시스템 도전: 규모 확장은 예측할 수 없는 실패를 도입한다. 이러한 실패를 관리 가능한 엔지니어링, 자본, 문화 문제로 나누는 것이 프론티어 AI 개발의 주요 시스템 과제이다.

사례 연구: ChatGPT와 Codex

ChatGPT와 Codex의 개발은 연구 주도 발견에서 제품 주도 확장으로의 전환을 보여준다.

ChatGPT: 연구 데모에서 글로벌 제품으로

OpenAI는 inicialmente GPT-3용 소비자 제품을 찾는 데 어려움을 겪었지만, 결국 개발자가 사용 사례를 발견할 수 있도록 API로リリース했다. API는 초기에는 제한된 traction을 보였지만, 개발자들은それを 채팅에 사용하기 시작했다. Y Combinator의 '사용자가 좋아하는 것을 보는' 원칙에 따라, OpenAI는 GPT-3.5를 기반으로 챗봇을 구축했다.

ChatGPT는 API 사용을 장려하기 위해 연구 데모로リリース되었지만, 바이럴이 되었다. Altman은 5일 동안 예측할 수 없는 파도로 트래픽이 급증한 '좋은 비상 상황'을 설명했는데, 이는 확실한 히트를 알렸다. 이로 인해 OpenAI는 고압적인 확장 단계에서 회사와 제품을 동시에 구축해야 했다.

Codex와 에이전시로의 경로

Codex는 AI가 컴퓨터를 제어하는 주요 방법이 코딩이며, 로봇공학이 물리 세계를 제어하는 방법이라는 믿음 하에 개발되었다. 지능과 코드 작성 능력을 결합함으로써 AI는 수동적인 정보 제공자에서 세계에서 작업을 수행할 수 있는 능동적인 에이전트로 전환할 수 있다. Altman은 Codex가 버전 5.5에서 중요한 변곡점에 도달했다고 지적한다.

AI 아키텍처와 유틸리티의 미래

파이프라인 재작성

현재 AI 능력은 사전 훈련, 중간 훈련, 후 훈련, 그리고 RL(강화 학습)을 포함한 파이프라인을 통해 개발된다. Altman은 이 파이프라인이 근본적으로 다시 작성될 것으로 기대한다. 그는 2028년 3월까지 AI가 완전한 end-to-end 연구자로 작동하여 인간 설계 파이프라인을 초월하는 완전히 새로운 아키텍처를 설계할 수 있을 것으로 예측한다.

유틸리티로서의 지능

Altman은 지식을 전기와 유사한 nascent 유틸리티로 프레이밍한다. 그는 초기 전력 회사가 '전기'—두려우고 추상적인 개념—을 팔지 않고 대신 '밤의 빛'을 팔았다고 지적한다. 그는 OpenAI가 일반 지능 유틸리티 개념을 대중이 이해할 수 있도록 유사한 구체적인 가치 제안을 찾아야 한다고 주장한다.

시스템적 위험과 글로벌 포크

Altman은 AI의 미래에 대한 몇 가지 중요한 '포크' 또는 결정점을 식별한다:

민주화 vs. 집중

AI 권력이 몇 개 회사에 집중될 위험이 크며, Altman은 이를 위험한 유인자 상태로 본다. 그는 기술이 민주화될 확률을 80%로 추정하지만, 권력을 추구하는 개인과 안전 논증이 집중을 정당화하는 데 사용될 수 있다고 경고한다. 그는 민주화가 정렬과 글로벌 에이전시에 필수적이라고 주장한다.

컴퓨팅 부족 위기

Altman은 컴퓨팅 부족의 실시간 위기를 지적한다. 그는 AI가 계속 개선되는 한 수요가 공급을 구조적으로 앞질러갈 것이라고 제안한다. 그는 추론 인프라를 스택에서 가장 투자 부족이 심한 영역 중 하나로 보며, 개발자들에게 지능을 저렴하고 풍부하게 만드는 데 집중할 것을 촉구한다.

경제 재분배

노동에서 자본으로 레버리지가 이동함에 따라, Altman은 전통적인 경제 모델이 실패할 수 있다고 제안한다. 고정 월간 현금 배당금(UBI)이 아니라, 개인이 AI 경제를 이끄는 자본/회사의 소유 지분을 갖는 '시민 재산 펀드' 모델을 옹호한다.