Mirascope/mirascope

The LLM Anti-Framework

它解决了什么

Mirascope 提供了一个统一的接口，让开发者能够与各种前沿大型语言模型（LLM）交互。它简化了调用 LLM、管理提示以及集成工具以实现代理行为的过程，减少了在不同模型提供商之间切换时所需的样板代码。

它如何工作

该库使用基于装饰器的方法来定义 LLM 调用。通过应用 @llm.call，库会处理与模型提供商的通信。它支持通过 Pydantic 模型的结构化输出，允许开发者将相同的响应解析为带类型的对象。它还提供 @llm.tool 来定义 LLM 可以调用的函数，从而构建能够执行工具并根据工具输出继续对话的代理。

适用人群

希望在不同模型提供商之间使用一致 API，并以简化方式实现结构化数据提取和工具调用代理的 LLM 应用开发者。

亮点

  • 统一接口：通过单一、一致的 API 访问多种前沿 LLM。
  • 结构化输出：原生支持 Pydantic，轻松将模型响应解析为结构化数据。
  • 工具调用：简化工具定义和执行循环，创建 AI 代理。
  • 多语言支持：同时提供 Python 和 TypeScript 版本。