pydantic/genai-prices

Calculate prices for calling LLM inference APIs.

📊 GenAI Prices – 무엇인가요

GenAI Prices 는 개발자가 특정 대규모 언어 모델(LLM) 추론 엔드포인트를 호출할 때 어느 정도의 비용이 들 것인지 확인할 수 있도록 해주는 작지만 실용적인 오픈소스 라이브러리입니다. 다음을 제공합니다:

  • 데이터 – 수십 개의 제공업체(OpenAI, Anthropic, Azure, Bedrock, Gemini 등)의 수백 개 모델에 대한 버전 관리된 JSON 레지스트리. 이 데이터에는 역사적 가격, 단계적 요금, 비피크 시간 할인, 심지어 토큰 유형별 비용까지 포함됩니다.
  • 로직 – 사용자가 제공하는 제공업체 ID와 모델 ID를 올바른 항목에 매핑하는 코드. 모델 이름 변경이나 제공업체 고유의 요금 체계와 같은 특이사항도 처리합니다.
  • 클라이언트Python, JavaScript/TypeScript, Go용 즉시 사용 가능한 패키지. 각각은 작은 API(get_price(...))와 빠른 조회를 위한 명령줄 도구(genai-prices)를 제공합니다.
  • 확장성 – 새로운 제공업체나 가격 업데이트 기여를 장려하며, Helicone, LiteLLM, OpenRouter 등의 소스에서 데이터를 자동으로 가져옵니다.

이 프로젝트는 AI 에이전트를 위한 유형 안전하고 프로덕션 준비된 기반을 제공하는 Pydantic Stack 의 일부입니다.


🔧 주요 기능 (README에 기재된 내용)

기능 의미
고급 매칭 로직 ID가 약간 다를지라도 정확한 제공업체/모델을 올바른 가격 항목에 매핑하려고 노력합니다.
역사적 및 변동 가격 과거 가격(예: o1)을 저장하여 시간이 지남에 따라 비용이 어떻게 변화했는지 확인할 수 있습니다.
일일 변동 가격 시간대에 따라 가격이 변하는 제공업체(예: Deepseek의 비피크 요금)를 지원합니다.
Gemini의 단계적 요금 매우 큰 컨텍스트 창에 대해 별도의 요금을 처리합니다.
가격 불일치 탐지 레지스트리와 다른 공개 소스를 비교할 수 있는 도구.
다국어 패키지 Python, JS/TS, Go 라이브러리 및 CLI.
미래의 API 및 웹 UI 계획 중이지만 아직 출시되지 않았습니다.

📦 사용 방법

Python

pip install genai-prices

코드 내에서:

from genai_prices import get_price
price = get_price(provider="openai", model="gpt-4o", tokens=1000)
print(price)  # → {'input': 0.005, 'output': 0.015, 'currency': 'USD'}

함께 제공되는 CLI(genai-prices)는 터미널에서 동일한 기능을 제공합니다.

JavaScript/TypeScript

npm i @pydantic/genai-prices
import { getPrice } from '@pydantic/genai-prices'
const price = getPrice({ provider: 'anthropic', model: 'claude-3-opus', tokens: 500 })
console.log(price)

genai-prices 명령어도 제공됩니다.

Go

go get github.com/pydantic/genai-prices/go
price, _ := genaiprices.GetPrice("openrouter", "meta-llama/Meta-Llama-3.1-70B-Instruct", 2000)
fmt.Println(price)

📂 데이터 파일

  • v2 (현재 사용 중) – prices/new_data/v2/data.json (전체) 및 data_slim.json (무료 모델 제거, 더 작음). 스키마도 제공됩니다.
  • v1 – 백워드 호환성을 위해 고정된 레거시 파일.

이 JSON 파일을 직접 다운로드하여 라이브러리에 의존하지 않고도 자체 도구에 내장할 수 있습니다.


🤝 기여 및 커뮤니티

  • PR을 통해 가격 업데이트 제출 (see prices/README.md).
  • 가격 조회 성능 벤치마크 (benchmarks/README.md).
  • 모델 호스팅 서비스를 운영 중이라면, 가격 정보를 JSON 또는 API 엔드포인트로 공개해 주시면 프로젝트가 데이터를 가져올 수 있습니다.
  • 토론을 위해 Pydantic Slack (README 내 배지 링크)에 참여하세요.

⚠️ 정확성 관련 면책 조항

저자들은 숫자는 참고용 이며, 제공업체는 거의 기계 가독성 가격표를 공개하지 않기 때문에 데이터는 공개 문서, 커뮤니티 기여, 기타 오픈소스 가격 목록에서 수집되었습니다. 항상 실제 제공업체 청구서와 확인하세요.


📚 어디에 적합한가

GenAI Prices는 LLM 기반 애플리케이션, 비용 모니터링 대시보드, 예산 도구 를 개발하는 개발자에게 중요한 공백을 메워줍니다. 분산된 LLM 생태계 전반에서 단일하고 유형 안전한 가격 정보 소스를 제공함으로써, 예기치 않은 청구를 방지하고 비용 인식 프롬프트 작성을 더 쉽게 만듭니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • Dispatch
  • 프로젝트