mellea: 一个用于编写具有类型注释输出和自动修复功能的结构化、可测试生成程序的 Python 库

它解决了什么问题

它解决了 AI 流水线中 LLM 调用不可预测和脆弱的问题，在这些场景中，静默失败和不可测试的输出往往使工作流变得脆弱。Mellea 用结构化、可测试的生成式编程方法取代了猜测和手动提示工程。

它是如何工作的

Mellea 使用 @generative 装饰器将标准 Python 函数转换为结构化的 LLM 调用。它利用 Python 类型提示和 Pydantic schema 来确保输出具有正确的类型和格式。该库还允许用户为调用附加自然语言要求，系统随后会对这些要求进行验证，如果未满足则会自动重试。

它是面向谁的

构建 AI 驱动的流水线和智能体（agents）的开发者，他们需要保证输出 schema、可验证的要求以及来自 LLM 的可预测结果。

亮点

• 结构化输出：使用 Pydantic schema 在生成时强制执行数据类型。
• 自动修复：根据自然语言要求验证输出并执行自动重试。
• 采样策略：支持多种提高可靠性的方法，例如多数投票（majority voting）和拒绝采样（rejection sampling）。
• 广泛的后端支持：兼容 OpenAI, Ollama, HuggingFace, WatsonX, LiteLLM, 和 Bedrock。
• MCP 兼容性：允许将生成式程序作为 Model Context Protocol (MCP) 工具进行暴露。