최첨단 모델의 실제 비용: $/Mtok이 오해를 불러일으키는 지표인 이유

최첨단 모델의 실제 비용: $/Mtok이 오해를 불러일으키는 지표인 이유

$/Mtok 지표는 공급업체 간에 비교할 수 없습니다

목록에 표시된 백만 토큰당 가격($/Mtok)은 고정된 값이 아닙니다. 각 모델 공급업체가 원시 텍스트를 청구 단위로 변환하기 위해 서로 다른 토크나이저를 사용하기 때문입니다. "토큰"은 일정량의 텍스트를 의미하지 않으므로, 동일한 리스트 가격을 가진 두 모델이라도 동일한 입력에 대해 전혀 다른 청구서를 만들 수 있습니다. 실제 요청 비용은 콘텐츠가 변환된 토큰 수와 토큰당 가격을 곱한 값입니다.

Claude의 새로운 토크나이저가 실질 비용을 증가시킵니다

Anthropic의 최신 토크나이저( Sonnet 5, Opus 4.8, Fable 5에 사용) 는 기존 버전에 비해 일반적인 영어 및 코드 요청에서 약 32% 더 많은 토큰을 생성합니다, 일부 모델의 리스트 가격은 변함이 없지만 말 그대로 청구서에 별도 항목 없이 가격 인상이 발생한 셈입니다.

콘텐츠 유형별 토크나이징 인플레이션

Anthropic 자체 count_tokens 엔드포인트를 사용한 측정 결과, 기존 토크나이저에서 새로운 토크나이저로 전환했을 때 토큰 수가 다음과 같이 증가했습니다:

콘텐츠 토큰 수 변화
영어 산문 +34%
TypeScript +31%
Rust +29%
Python +23%
JavaScript +20%
JSON 도구 스키마 +26%
에이전트 시스템 프롬프트 +39%
중국어 산문 ~0%

Sonnet 5 가격 창

Sonnet 5는 도입 가격을 $2.00 / $10.00( Sonnet 4.6의 $3.00 / $15.00에서 인하)으로 출시했습니다. 이 낮은 요금은 증가된 토큰 수를 커버하지만, 2026년 9월 1일에 가격이 $3.00 / $15.00으로 돌아올 예정입니다. 해당 날짜 이후에는 동일한 워크로드가 Sonnet 4.6 대비 약 3분의 1 정도 더 비싸게 됩니다.

공급업체 간 토크나이징 차이

GPT-5.x의 o200k_base 토크나이저를 1.00x 기준으로 사용할 때, Claude의 새로운 토크나이저는 특히 코드에 대해 효율성이 크게 떨어집니다. 이 격차는 TypeScript에서 가장 크게 나타나며, Claude는 동일 파일에 대해 GPT보다 1.73배 더 많은 토큰을 생성합니다.

토크나이징 배수 (Claude New vs. GPT-5.x)

콘텐츠 배수
TypeScript 1.73x
Rust 1.58x
JavaScript 1.52x
Python 1.50x
영어 산문 1.40x
중국어 산문 1.44x

TypeScript가 최악의 경우인 이유는 GPT의 o200k가 웹 기반 언어에 최적화돼 있어 camelCase 식별자와 JSX 패턴을 Claude의 토크나이저보다 더 효율적으로 압축하기 때문입니다.

코딩 워크로드에 대한 실질 가격

"실질 가격"은 리스트 가격에 토크나이저 차이를 곱한 값입니다. 일반적인 영어 코딩 요청에 대해 실질 비용은 크게 차이납니다:

모델 리스트 가격 (입력/출력) 차이 실질 가격 (입력/출력)
GPT-5.1 $1.25 / $10.00 1.00x $1.25 / $10.00
Gemini 3 Flash $0.50 / $3.00 1.09x $0.55 / $3.27
Claude Sonnet 5 (9월 1일 이후) $3.00 / $15.00 1.50x $4.50 / $22.50
Claude Opus 4.8 $5.00 / $25.00 1.50x $7.50 / $37.50
Claude Fable 5 $10.00 / $50.00 1.50x $15.00 / $75.00

입력 토크나이징을 넘어: 전체 작업 비용

입력 토크나이징은 전체 청구서의 한 요소일 뿐이며, 모델의 장황함, 추론 노력, 캐시 전략 등에 따라 전체 작업 비용은 입력 토큰 차이(1.73배)보다 훨씬 크게 달라질 수 있습니다.

주요 비용 요인

  • 캐시 트래픽: 캐시 읽기·쓰기 비용이 토큰당 청구되므로, 비효율적인 토크나이저는 입력 인플레이션과 동일한 비율로 모든 캐시 작업 비용을 증가시킵니다.
  • 장황함과 사고: 모델이 해결책에 도달하기 위해 생성하는 출력 및 "사고" 토큰 수는 크게 차이날 수 있습니다. 일부 모델은 동일한 에이전트 작업에 대해 다른 모델보다 2‑4배 더 많은 토큰을 사용할 수 있습니다(내부 추론 루프 또는 높은 장황함 때문).
  • 에이전트 행동: 도구 호출 빈도, 단계별 로드되는 컨텍스트 양, 서브 에이전트 사용 등이 최종 청구서에 큰 영향을 미칩니다.

커뮤니티 인사이트

사용자와 개발자들은 이러한 차이가 대규모 코드베이스에서 가장 크게 느껴진다고 보고했습니다. 한 사용자는 약 90k 라인 규모의 레거시 C++ 코드베이스가 GPT에서는 1.12M 토큰, Claude에서는 2.2M 토큰으로 측정됐다고 전했습니다. 다른 사람들은 비용을 정확히 예측하려면 "완료된 작업당 달러"를 측정해야 하며, 요금표만으로는 충분하지 않다고 강조했습니다.

모델 비용 비교를 위한 권장 사항

  1. 대표 콘텐츠로 테스트: 각 공급업체의 토크나이저에 여러분의 특정 언어와 파일 유형을 샘플로 넣어 개인적인 배수를 찾으세요.
  2. 토크나이저 변경 감시: 토크나이저 업데이트를 가격 변동으로 간주하세요. 모델 업데이트(예: Opus 4.6 → 4.8)도 리스트 가격이 변하지 않아도 약 32% 비용 증가를 초래할 수 있습니다.
  3. 작업 기반 비용 측정: 제공자의 usage 필드를 활용해 완료된 작업당 비용을 계산하세요. 이렇게 하면 토크나이징, 장황함, 캐시 비용을 하나의 지표에 담을 수 있습니다.

Sources