AI ROI 위기: Uber의 지출 딜레마에서 얻은 교훈

생성 AI 투자 초기의 달콤한 시기가 차가운 현실, 즉 재무제표와 마주하고 있다. Uber처럼 규모가 크고 운영이 복잡한 기업의 사장이 AI 지출이 “정당화하기 어려워지고 있다”고 말하면, 이는 업계 전반의 변화를 의미한다. 우리는 단순히 뒤처지지 않기 위해 추측적인 실험을 하던 시대에서, 엄격한 ROI 회계 시대로 이동하고 있다.

이 긴장은 AI의 입력(소모된 토큰, GPU 시간, 구독 좌석)과 비즈니스 가치의 출력(출시된 기능, 감소된 이탈, 증가된 매출) 사이의 근본적인 불일치를 강조한다.

“Tokenmaxxing” 함정

AI를 소프트웨어 개발 라이프사이클에 통합하려는 급박함 속에서, 많은 조직이 일부 관찰자들이 “tokenmaxxing”이라고 부르는 패턴에 빠졌다. 이는 특정 문제를 해결하기보다는 인식된 세대적 우위를 위한 경쟁으로 AI 코딩 어시스턴트의 사용을 최대화하는 행위이다.

하지만 여러 업계 실무자들이 지적했듯이, 생산된 코드 양을 늘린다고 해서 제품의 속도가 자동으로 빨라지는 것은 아니다. 많은 대기업에서 코드 생산은 실제 병목 현상이 거의 아니다. 대신, 병목 현상은 다음과 같다:

리뷰 및 품질 보증: AI가 생성한 코드가 많아질수록 인간이 검토해야 할 코드도 많아진다. 검토 과정이 여전히 수동이라면, AI는 병목을 단순히 아래 단계로 미룰 뿐이다.
인지 부하: 엔지니어들이 근본적으로 이해도가 낮은 코드를 배포하고 있다는 우려가 커지고 있다. 이는 향후 해소해야 할 잠재적인 기술 부채 층을 만든다.
창의성 한계: AI가 알려진 패턴의 구현을 가속화할 수는 있지만, 새로운 솔루션을 설계하거나 제품 전략을 전환하는 데 필요한 인간의 창의성을 대체할 수는 없다.

잘못된 지표 측정

AI 지출이 “정당화되지 않는다”고 느끼는 주요 이유 중 하나는 기업들이 종종 방정식의 잘못된 끝을 측정하고 있기 때문이다. 한 논평가가 지적했듯이, 소모된 토큰은 결과가 아니라 입력이다.

지출을 진정으로 정당화하려면, 조직은 “그렇지 않으면 병합되지 않았을 PR을 병합한 수에서 6주 후 발생한 회귀를 뺀 값”과 같은 지표로 이동해야 한다. 작업 단위와의 연결이 없으면 AI 지출은 최종 사용자 경험에 모호한 영향을 미치는 거대한 항목으로 보인다. 평균 Uber 이용자에게는 수십억 개의 토큰이 소모되기 전과 동일하게 앱이 작동한다; 내부 생산성 향상이 존재한다 하더라도 제품 유용성에는 아직 드러나지 않는다.

거시경제적 AI 버블

AI 시장이 이전 기술 과대광고 주기와 유사한 버블을 겪고 있다는 의견이 커지고 있다. AWS 초기와의 비교는 시사점이 크다: AWS가 일정 수준의 실행률에 도달했을 때 이미 완전히 새로운 SaaS와 PaaS 카테고리를 촉진했었다. 반면 AI 코딩 도구의 순 영향은 여전히 모호하다.

일부는 현재 AI 평가액을 정당화하는 유일한 방법은 AI 제공업체가 소프트웨어 산업의 코드를 인질로 잡거나 “AI 세금”을 도입할 수 있을 때라고 주장한다. 독점 데이터나 핵심 인프라와의 깊은 통합과 같은 지속 가능한 방어벽이 없으면, AI 서비스의 마진은 모델 비용에 소액을 더한 수준으로 급속히 회귀하여 평가 버블이 터질 수 있다.

전략적 후퇴 위험

정당하지 않은 지출을 줄이는 것이 재정적으로 책임 있는 행동이지만, 이러한 삭감이 구현되는 방식에는 전략적 위험이 있다. 기업이 인력 감축과 AI 지출 감소를 동시에 진행하면서, 더 작은 팀이 더 적은 자원으로 더 많은 일을 해낼 것으로 기대할 때 위험한 상황이 발생한다.

게다가 기업이 주주를 만족시키기 위해 AI 예산을 삭감하더라도, 국가 지원 보안 행위자와 같은 외부 위협은 분기 실적 보고에 얽매이지 않는다. 이들 행위자는 AI를 활용해 디지털 자산에 대한 공격을 가속화하고 있다. 기업이 AI 역량을 과도하게 축소하면 지속되는 보안 무기 경쟁에서 크게 불리한 위치에 처할 수 있다.

결론: 과대광고에서 실용성으로

현재 Uber에서 발생하는 마찰은 전 세계적인 추세의 축소판이다. 업계는 AI가 생산성을 위한 “마법 버튼”이 아니라 기존 워크플로우에 신중히 통합되어야 하는 도구임을 깨닫고 있다. 앞으로 나아갈 길은 “토큰 소모 할당량”에서 벗어나, AI를 특정하고 식별된 병목 현상을 해결하기 위해 배치하는 체계적인 접근법으로 전환하는 것이다. AI를 전반적인 생산성 향상 수단으로만 취급해서는 안 된다.