OpenRouter의 $113M 시리즈 B: 멀티 모델 AI를 위한 인프라 레이어 구축

대형 언어 모델(LLM) 분야는 고립된 실험 단계에서 핵심 프로덕션 애플리케이션 배포 단계로 빠르게 전환하고 있습니다. 이러한 환경에서 서로 다른 API, 청구 주기, 공급자별 특이성을 관리하는 마찰은 개발자에게 큰 병목이 됩니다. OpenRouter는 이러한 복잡성을 해결하는 솔루션으로 자리매김했으며, 최근 $113M 규모의 시리즈 B 투자 라운드를 발표해 멀티 모델 시대의 필수 라우팅 및 게이트웨이 레이어 역할을 확고히 했습니다.

CapitalG(Alphabet의 독립 성장 펀드) 주도로 진행된 이번 라운드에는 NVentures(NVIDIA), ServiceNow Ventures, MongoDB Ventures, Snowflake Ventures, Databricks Ventures 등 인프라 거인들의 전략적 참여가 있었습니다. 이는 OpenRouter가 단순히 자본을 구하는 것이 아니라, 기업이 이미 데이터와 컴퓨팅 스택을 위해 의존하고 있는 플랫폼들과 정렬하고 있음을 보여줍니다.

폭발적인 속도의 확장

OpenRouter가 제공한 성장 지표는 현재 AI 붐의 엄청난 속도를 강조합니다. 불과 6개월 만에 주간 토큰 볼륨이 5조에서 25조로 급증했습니다. 회사는 올해 1경(Quadrillion) 토큰 이상을 처리할 속도로 진행 중이며, 400개 이상의 모델을 사용하는 800만 명 이상의 개발자를 지원하고 있습니다.

이 규모는 팀이 비교적 소규모라는 점에서 특히 인상적입니다. 커뮤니티 관찰자들이 지적했듯이, 약 50명의 인원으로 초당 4,100만 토큰 이상을 처리한다는 것은 최소한의 오버헤드로 대량 처리량을 감당할 수 있는 매우 효율적인 인프라를 의미합니다.

가치 제안: 단순 프록시를 넘어

일부 비평가들은 라우팅 레이어를 단순히 "중간자" 역할이라고 주장하지만, 개발자 커뮤니티는 서비스를 정당화하는 여러 핵심 가치를 강조합니다:

1. 전환 비용 감소

AI 개발에서 가장 큰 고통점 중 하나는 몇 주마다 "현재 선호 모델"이 바뀌는 것입니다. OpenRouter를 사용하면 코드의 문자열 하나만 바꾸면 최신 모델(예: Claude 3.5 또는 GPT-4o)과 오픈 웨이트 모델 간을 테스트하고 전환할 수 있어 API 통합을 다시 작성할 필요가 없습니다.

2. 엔터프라이즈급 제어

프로덕션 AI는 단순히 프롬프트와 응답을 넘어서는 관리가 필요합니다. OpenRouter는 조직 규모에 맞춘 기능을 도입했습니다:

  • Workspaces and Spend Management: 비용 초과를 방지하기 위한 하드 청구 한도 설정 기능 – 많은 직접 공급자가 아직 제공하지 않는 기능입니다.
  • API Key Management: 키 발행, 만료, 제한에 대한 세밀한 제어로, 기본 계정을 위험에 빠뜨리지 않으면서 외부에 AI 기능을 공유할 수 있습니다.
  • Zero-Data-Retention Policies: 규정 준수와 프라이버시가 중요한 엔터프라이즈 워크로드에 필수적입니다.

3. 지능형 라우팅

단순 로드 밸런싱을 넘어 OpenRouter는 "품질 인식" 라우팅에 투자하고 있습니다. 여기에는 공급자 수준의 장애 조치와 가장 적합한 모델로 프롬프트를 자동 라우팅하는 "메타" 모델이 포함됩니다. 이를 통해 간단한 질의는 고가 모델(예: Claude Opus)에서 토큰을 낭비하지 않게 하고, 복잡한 질의는 자동으로 고품질 모델로 전환됩니다.

커뮤니티 시각 및 비판

고평가 벤처 기업에 대한 발표는 Hacker News 등 기술 커뮤니티에서 큰 논쟁을 일으켰습니다.

편리함의 비용: 반복되는 논쟁 포인트는 OpenRouter의 5% 부가 요금입니다. 취미 개발자에게는 "소수점 차이"에 불과하지만, 대규모 에이전트 백본을 운영하는 기업에게는 의미 있는 비용이 됩니다. 일부 사용자는 고용량, 단일 모델 워크로드의 경우 직접 API를 호출하는 것이 가장 경제적이라고 제안합니다.

방어벽(모트) 질문: 회의론자들은 비즈니스의 장기 방어성을 의문시합니다. 한 사용자는 다음과 같이 적었습니다:

"많은 실험이 진행되는 동안 OpenRouter는 계속 인기가 있을 것이라고 생각합니다... 상황이 안정되면... OpenRouter는 덜 유용해질 것입니다, 왜냐하면 5%의 오버헤드가 2개의 공급자에서 5개의 모델만 필요할 때는 감당하기 어려워지기 때문이죠."

자금 조달 목적: 비즈니스가 건전하고 자체 모델을 훈련하는 등 대규모 CapEx가 필요하지 않음에도 $113M이 필요하냐는 질문이 제기되었습니다. OpenRouter의 COO인 numlocked는 직접 "강력한 재무 상태는 위험을 책임감 있게 감소시키는 것"이라고 답했습니다. 대규모 지출을 처리하고 생태계 전반에 걸친 커밋이 큰 시장에서 충분한 현금 보유는 대형 고객과 공급자 파트너 모두에게 내구성을 신호합니다.

앞으로의 로드맵

OpenRouter는 텍스트를 넘어 영역을 확장하고 있습니다. 이제 플랫폼은 이미지, 오디오, 음성, 전사, 임베딩, 비디오 모델을 포함한 멀티모달 추론을 지원합니다. 종합 멀티모달 게이트웨이로 진화함으로써, OpenRouter는 기본 공급자와 관계없이 모든 AI 기반 기능에 대한 단일 진입점이 되고자 합니다.

산업이 보다 통합된 최첨단 모델 세트로 이동함에 따라, OpenRouter의 성공은 "발견 및 실험" 도구에서 기업 AI 인프라의 영구적인 구성 요소로 전환할 수 있느냐에 달려 있습니다. 즉, 대규모 GenAI 운영 부담을 줄이는 플러그형·구성 가능한 엔드포인트가 될 것입니다.

Sources