langwatch/langwatch

What it solves

LangWatch 提供了一個用於管理生產環境中 AI 的集中式平台。它解決了在整個組織內追蹤、測試和管理 LLM 調用（包括自建代理和工程師使用的第三方編碼助手）的困難。

How it works

它作為一個可觀測性與治理層，與各種模型提供商、框架（如 LangChain 和 CrewAI）以及編碼助手集成。它提供了一個 AI Gateway，為多個提供商提供單一的兼容性端點，並提供模擬測試和成本追蹤工具。

Who it's for

開發人員正在構建 AI agents，以及需要監控、預算管理和管理其團隊中使用 AI 工具的使用情況的企業。

Highlights

• LLM Ops: 包括可觀測性、代理測試、評估和提示詞管理。
• Coding Agent Tracking: 監控會話並計算每個 pull request 的成本。
• AI Gateway: 為 OpenAI 和 Anthropic 兼容的端點提供帶有預算和路由功能的虛擬金鑰。
• AI Governance: 追蹤公司內部的 AI 工具使用情況，並識別未使用的訂閱。
• Broad Integration: 支持廣泛的框架、無代碼平台和模型提供商。