pezzolabs/pezzo

🕹️ Open-source, developer-first LLMOps platform designed to streamline prompt design, version management, instant delivery, collaboration, troubleshooting, observability and more.

What it solves

Pezzo 提供一個集中式平台，管理 LLM 驅動應用程式的生命週期。它解決了在程式碼庫中硬編碼提示的常見困境，避免了必須重新部署程式碼才能更新提示，或是缺乏對提示在生產環境中表現的可見性。

How it works

它作為 LLMOps 平台，透過客戶端（Node.js、Python 與 LangChain）與您的應用程式整合。提供集中式主控台進行提示管理、可觀測性與快取，以降低成本與延遲。

Who it’s for

開發者與團隊在建置 AI 應用程式時，需要一種方式來管理、監控與優化提示與 AI 運營，且不必頻繁部署程式碼。

Highlights

  • Prompt Management: 在單一位置管理與更新提示，並即時套用變更。
  • Observability: 監控與排除 AI 運營問題，以辨識異常。
  • Caching: 透過整合快取將成本與延遲降低最高 90%。
  • Cloud-Native Stack: 基於開源技術構建，包括 PostgreSQL、ClickHouse、Redis 與 Supertokens。