pezzolabs/pezzo

🕹️ Open-source, developer-first LLMOps platform designed to streamline prompt design, version management, instant delivery, collaboration, troubleshooting, observability and more.

What it solves

Pezzo 提供一个集中式平台，管理 LLM 驱动应用程序的生命周期。它解决了在代码库中硬编码提示的常见难题，避免了必须重新部署代码才能更新提示，或缺乏对提示在生产环境中表现的可见性。

How it works

它作为 LLMOps 平台，通过客户端（Node.js、Python 和 LangChain）与您的应用程序集成。提供集中式控制台进行提示管理、可观测性和缓存，以降低成本和延迟。

Who it’s for

开发者和团队在构建 AI 应用时，需要一种方式来管理、监控和优化提示及 AI 运营，而无需频繁代码部署。

Highlights

  • Prompt Management: 在单一位置管理和更新提示，并即时交付更改。
  • Observability: 监控并排查 AI 运营问题，以识别异常。
  • Caching: 通过集成缓存将成本和延迟降低最高 90%。
  • Cloud-Native Stack: 基于开源技术构建，包括 PostgreSQL、ClickHouse、Redis 和 Supertokens。