pydantic/genai-prices

Calculate prices for calling LLM inference APIs.

解決する課題

GenAI Pricesは、LLM推論APIの呼び出しコストを計算する方法を提供します。モデルプロバイダーは、機械判読可能な形式で価格情報を提供していないことが多いため、開発者がAIアプリケーションの実際のコストを推定または追跡することは困難です。

仕組み

このプロジェクトは、数十のプロバイダー（OpenAI、Anthropic、Googleなど）と数百のモデルに関する包括的な価格データのデータベースを維持しています。モデルIDとプロバイダーIDに基づいてこのデータを照会し、コストを計算するためのPythonおよびJavaScript/TypeScriptパッケージとCLIを提供します。

対象者

さまざまなLLM推論APIの使用コストを推定、監視、または比較する必要がある、AIアプリケーションを構築している開発者。

ハイライト

  • 幅広いプロバイダー対応: AWS Bedrock、Azure、Groq、OpenRouterを含む幅広いプロバイダーをサポートしています。
  • 複雑な価格ロジック: 過去の価格変更、変動する日次価格（例：オフピーク時）、および大規模コンテキスト向けの階層型価格（例：Gemini）を処理します。
  • 柔軟なアクセス: Pythonパッケージ、JS/TSパッケージ、およびダウンロード可能なJSONデータファイルとして利用可能です。
  • 正確性を高めるツール: モデルのマッチングを最大化するロジックと、他のソースからの価格の不一致を特定するためのツールが含まれています。