더 똑똑한 AI 모델이 컴퓨트 가격을 10배 올릴 수 있는 이유

컴퓨트 갭: 매출 성장 vs. 용량 확장

AI 연구소는 매출 성장과 사용 가능한 컴퓨트 용량 사이에서 엄청난 차이를 겪고 있습니다. 예를 들어, Anthropic의 매출은 reportedly 3년 연속 연간 10배 성장했으며, 총 연구소 컴퓨트 용량은 연간 약 3배만 증가합니다.

컴퓨트 확장이 뒤처지는 상황에서 이 매출 성장을 유지하기 위해 연구소는 다음 메커니즘 중 하나 이상에 의존해야 합니다:

마진 증가: 추론에 대한 수익 마진 확장.
컴퓨트 가격 상승: 컴퓨트를 임대하거나 구매하는 비용 인상.
컴퓨트 할당 이동: 훈련보다는 추론에 전용되는 총 컴퓨트 비율 증가.

세 가지 모두 발생하고 있으며—일부 모델의 추론 마진이 40%에서 80%로 상승하고 OpenAI의 추론 지출이 25%에서 잠재적으로 50% 이상으로 증가—연구소는 추론을 우선시하는 것을 꺼립니다. 연구소는 추론 수익을 차세대 모델 훈련을 위한 자금 조달 수단으로 보며, 추론에 너무 많은 컴퓨트를 할당하면 AI 발전이 정체되었고 연구소가 단순한 클라우드 제공업체로 전환되었다는 신호를 보냅니다.

컴퓨트 가격이 상승할 가능성이 높은 이유

연구소가 경쟁으로 인해 90% 이상의 마진을 유지할 수 없다면, 매출-컴퓨트 갭의 주요 "탈출구"는 컴퓨트 가격 인상입니다. 이 추세는 이미 시장에서 나타납니다:

스팟 가격 상승: 컴퓨트 스팟 가격은 현재 연도의 2월 저점보다 40% 이상 높습니다.
규모에 대한 프리미엄 가격: 프론티어 연구소는 스팟 인스턴스보다는 안전하고 대규모 클러스터가 필요합니다. 예를 들어, Google은 reportedly 110,000개의 GPU(GB200과 GB300 혼합)에 월 9억 달러를 지불하고 있으며, 이는 현재 스팟 시간당 가격의 두 배입니다.

지능의 수익화

AI 모델이 더 똑똑해짐에 따라 동일한 양의 컴퓨트를 더 효과적으로 수익화할 수 있습니다. H100에相当하는 GPU가 진정한 인간 수준의 소프트웨어 엔지니어를 실행할 수 있다면, 해당 하드웨어가 생성하는 경제 가치는 현재 임대 가격보다 훨씬 높을 것입니다. 현재 소프트웨어 엔지니어 급여를 기준으로, 그러한 GPU는 이론적으로 연간 25만 달러 이상으로 임대되어야 하며—현재 스팟 가격의 15배 이상입니다.

일부에서는 AI 엔지니어의 대규모 유입이 노동의 한계 가치를 낮출 것이라고 주장합니다("노동의 lump fallacy" 참조), 하지만 표준 경제학은 혁신과 전문화가 일반적으로 고숙련 노동의 한계 가치를 높게 유지한다고 보며, 이는 능력이 증가함에 따라 컴퓨트의 한계 가치도 높게 유지될 것임을 시사합니다.

높은 컴퓨트 비용의 경제적 영향

컴퓨트 가격 상승과 모델 효율성 증가는 AI 생태계에서 여러 전략적 변화를 초래합니다:

알시안-알렌 효과와 모델 효율성

알시안-알렌 효과에 따르면, scarce 입력(컴퓨트)의 비용이 증가하면 해당 입력을 절약하려는 동기가 커집니다. 컴퓨트가 비싸다면, 덜 효율적인 모델을 사용하는 것은 동일한 결과를 얻기 위해 더 많은 토큰을 소모하게 되어 비용이 많이 듭니다. 따라서 가장 컴퓨트 효율적인 모델을 훈련할 수 있는 연구소는 상당한 프리미엄을 청구할 수 있는데, 이는 희소 자원의 낭비를 줄여 효과적으로 "더 많은" 컴퓨트를 창출하기 때문입니다.

시장 집중과 응용 프로그램 가격 책정 bort

높은 컴퓨트 비용은 진입 장벽을 생성합니다. 상위 연구소는 동일한 하드웨어에서 더 많은 가치를 추출할 수 있기 때문에 더 작은 경쟁자보다 컴퓨트 자원을 더 효과적으로 입찰할 수 있습니다. 또한, 저가치 응용 프로그램—예를 들어 "AI 슬롭" 생성—은 프론티어 연구소가 고가치 자동화(예: AI 주도 AI 연구)를 우선시하고それに 더 많은 비용을 지불하려는 경향 때문에 시장에서 가격 밖으로 밀려날 수 있습니다.

컴퓨트 공급 확장의 제약

연간 3배의 컴퓨트 용량 성장은 세 가지 주요 병목 현상으로 인해 가속하기 어렵습니다:

무어의 법칙 (1.4x): 하드웨어 효율성 향상이 둔화되고 지속하기 어려울 수 있습니다.
제조 용량 (1.2x): 새로운 팹 건설은 ASML EUV 기계의 가용성으로 병목이 발생합니다.
웨이퍼 할당 (1.8x): AI는 이전에 스마트폰과 PC에 사용되던 웨이퍼 용량을 흡수하고 있습니다. TSMC의 선도적인 N3 노드에서 AI 할당은 60%에서 86%로 증가하여 재배치를 통한 추가 성장 여지가 거의 없습니다.

これらの制約は、コンピュート供給が非弾力的であり、大規模な需要ショックを吸収できないことを示しており、ロボットによる自動化が原材料処理とチップ製造のコストを根本的に下げる前の特異点以前の regime では価格上昇が起こりやすいことを示唆しています。