pydantic/genai-prices
Calculate prices for calling LLM inference APIs.
📊 GenAI Prices – 是什麼
GenAI Prices 是一個小型但實用的開源程式庫,讓開發者可以查詢調用特定大型語言模型(LLM)推理端點的 應有成本。它提供:
- 資料 – 數十家提供者(OpenAI、Anthropic、Azure、Bedrock、Gemini 等)數百個模型的版本化 JSON 登記表。資料包含歷史價格、階層定價、非尖峰時段折扣,甚至按 token 類型的計價。
- 邏輯 – 程式碼可將使用者提供的提供者 ID 和模型 ID 對應到正確的條目,處理模型重命名或提供者特定定價方案等細節。
- 客戶端 – 提供 Python、JavaScript/TypeScript 和 Go 的即用型套件,每個都暴露一個極簡 API(
get_price(...))和一個命令列工具(genai-prices),用於快速查詢。 - 可擴展性 – 鼓勵貢獻新提供者或價格更新,目前已從 Helicone、LiteLLM 和 OpenRouter 等來源取得資料。
此專案是 Pydantic Stack 的一部分,旨在為開發者提供類型安全、可投入生產的 AI 代理基礎。
🔧 核心功能(如 README 所列)
| 功能 | 含義 |
|---|---|
| 高階匹配邏輯 | 儘力將使用者指定的提供者/模型精確對應到正確的價格條目,即使 ID 略有差異。 |
| 歷史與變動價格 | 儲存舊價格(如 o1),以便查看成本隨時間演變。 |
| 變動的日定價 | 支援按一天中不同時段變動價格的提供者(如 Deepseek 的非尖峰時段定價)。 |
| Gemini 的階層定價 | 處理超大上下文視窗的獨立計費。 |
| 價格差異檢測 | 工具可將註冊表與其他公開來源進行比對。 |
| 多語言套件 | Python、JS/TS 和 Go 的函式庫及 CLI。 |
| 未來 API 與 Web UI | 計畫中,但尚未發布。 |
📦 如何使用
Python
pip install genai-prices
在程式碼中使用:
from genai_prices import get_price
price = get_price(provider="openai", model="gpt-4o", tokens=1000)
print(price) # → {'input': 0.005, 'output': 0.015, 'currency': 'USD'}
配套的 CLI(genai-prices)也支援從終端機進行相同操作。
JavaScript/TypeScript
npm i @pydantic/genai-prices
import { getPrice } from '@pydantic/genai-prices'
const price = getPrice({ provider: 'anthropic', model: 'claude-3-opus', tokens: 500 })
console.log(price)
也提供 genai-prices 命令。
Go
go get github.com/pydantic/genai-prices/go
price, _ := genaiprices.GetPrice("openrouter", "meta-llama/Meta-Llama-3.1-70B-Instruct", 2000)
fmt.Println(price)
📂 資料檔案
- v2(目前使用) –
prices/new_data/v2/data.json(完整版)和data_slim.json(移除免費模型,更小)。提供模式定義。 - v1 – 為向後相容而保留的凍結舊檔案。
您可以直接下載這些 JSON 檔案並嵌入到自己的工具中,以避免依賴此套件。
🤝 貢獻與社群
- 透過拉取請求提交價格更新(參見
prices/README.md)。 - 基準測試價格查詢效能(參見
benchmarks/README.md)。 - 如果您經營模型主機服務,建議公開一個包含您定價的 JSON 或 API 端點,以便專案可取得資料。
- 加入 Pydantic Slack(README 中的徽章連結)參與討論。
⚠️ 準確性免責聲明
作者強調,這些數字僅供 參考。提供者很少發布機器可讀的價格表,因此資料來自公開文件、社群貢獻及其他開源價格清單。請始終與您的實際提供者帳單核對。
📚 適用場景
GenAI Prices 為開發 LLM 驅動的應用、成本監控儀表板或預算工具 的開發者填補了關鍵缺口。透過提供一個統一、類型安全的定價資訊來源,涵蓋碎片化的 LLM 生態系統,它有助於避免意外帳單,並使具成本意識的提示設計更簡單。
相關
- 專案
- 專案
- 專案
- Dispatch
- 專案