pydantic/genai-prices

무엇인가요

GenAI Prices는 수십 개의 거대 언어 모델(LLM) 추론 API에 대한 가격 정보를 수집, 관리 및 제공하는 오픈소스 라이브러리입니다. 개발자는 OpenAI, Anthropic, Gemini, Azure 등 다양한 공급업체에서 토큰, 요청 또는 컨텍스트 길이에 따른 비용을 쉽게 조회할 수 있습니다.

왜 중요한가요

AI 제품을 구축할 때 비용을 예측하거나 제어해야 하는 경우가 많습니다. 공급업체마다 가격을 게시하는 형식이 다르고(일일 변동, 단계별 요금, 과거 가격 수정 등), 이를 수동으로 최신 상태로 유지하는 것은 오류가 발생하기 쉽습니다. GenAI Prices는 데이터를 중앙 집중화하고 모델 및 공급업체 식별자를 정규화하여 프로그래밍 방식으로 비용을 계산할 수 있게 해주며, 팀이 예산을 책정하고 공급업체를 비교하며 가격 이상 징후를 발견하도록 돕습니다.

핵심 기능

광범위한 공급업체 지원 – 40개 이상의 공급업체, 1,500개 이상의 모델을 지원하며, YAML 파일을 통해 공급업체별 ID를 공통 스키마에 매핑합니다.
이력 및 변동 가격 지원 – 시간 경과에 따른 가격 변경 및 일일 변동 요금(예: Deepseek의 비수기 가격)을 지원합니다.
단계별 가격 책정 – 컨텍스트 크기에 따라 비용이 달라지는 모델(예: Gemini의 대규모 컨텍스트 티어)을 처리합니다.
불일치 감지 – 라이브러리의 수치와 다른 소스를 비교하기 위한 도구를 제공합니다.
다국어 SDK – Python, JavaScript/TypeScript, Go를 위한 즉시 사용 가능한 패키지와 CLI를 제공합니다.
데이터 파일 – SDK 없이도 다운로드하여 사용할 수 있는 정적 JSON 레지스트리(전체 및 슬림 버전)를 제공합니다.
향후 API 및 웹 UI – 즉석 조회를 위한 호스팅 서비스가 로드맵에 포함되어 있습니다.

권장 사용자

LLM 기반 앱을 개발하는 개발자 – 예산 책정이나 자체 서비스 가격 책정을 위해 토큰 비용을 예측해야 하는 분.
제품 관리자 – 가장 비용 효율적인 옵션을 선택하기 위해 공급업체를 비교하는 분.
운영/재무 팀 – 클라우드 LLM 지출을 감사하고 예상치 못한 가격 변경을 포착하려는 분.
LLM 공급업체 – 자체 가격 파일을 기여하여 레지스트리의 정확성을 유지하려는 분.

시작하기

SDK 설치 – 예: pip install genai-prices (Python) 또는 npm i genai-prices (JS/TS).
가격 레지스트리 로드 – 패키지에 JSON 데이터가 포함되어 있습니다. prices/ 디렉토리에서 원본 파일을 다운로드할 수도 있습니다.
모델 쿼리 – 공급업체 이름, 모델 ID, 토큰 수를 인자로 헬퍼 함수를 호출하여 비용 추정치를 받습니다.
CLI 사용 – genai-prices lookup openai/gpt-4 1000 명령어로 1,000 토큰에 대한 비용을 출력합니다.
기여 – 공급업체의 YAML 파일을 추가하거나 업데이트하고, 벤치마크 워크플로우를 실행한 후 PR을 제출하세요.

제한 사항 및 주의 사항

최선 노력형 데이터 – 가격은 공개 소스에서 스크래핑/관리되므로 공급업체의 업데이트보다 늦거나 특정 지역의 할인이 누락될 수 있습니다.
실시간 API 미지원 – 현재는 정적 JSON 파일에 의존하며, 온라인 API는 향후 계획 중입니다.
추론 가격만 포함 – 학습 비용, 파인튜닝 수수료, 맞춤형 기업 계약은 범위에서 제외됩니다.

GenAI Prices는 Pydantic Stack의 일부입니다. Pydantic Stack에는 Pydantic AI(타입 안전 에이전트 프레임워크), Logfire 관측성 도구, AI 게이트웨이가 포함되어 있습니다.