Mirascope/mirascope

The LLM Anti-Framework

它解決了什麼問題

Mirascope 提供了一個統一的介面，讓開發者能與各種前沿大型語言模型（LLM）互動。它簡化了呼叫 LLM、管理提示以及整合工具以實現代理行為的流程，減少了在不同模型供應商之間切換時所需的樣板程式碼。

它如何運作

此函式庫採用基於裝飾器的方式來定義 LLM 呼叫。透過套用 @llm.call，函式庫會處理與模型供應商的通訊。它支援透過 Pydantic 模型的結構化輸出，讓開發者能將相同的回應解析成具型別的物件。亦提供 @llm.tool 以定義 LLM 可呼叫的函式，從而建構能執行工具並根據工具輸出繼續對話的代理。

目標對象

想要在不同模型供應商之間使用一致 API，並以簡化方式實作結構化資料抽取與工具呼叫代理的 LLM 應用開發者。

重點特色

  • 統一介面：透過單一且一致的 API 存取多種前沿 LLM。
  • 結構化輸出：原生支援 Pydantic，輕鬆將模型回應解析為結構化資料。
  • 工具呼叫：簡化工具定義與執行迴圈，打造 AI 代理。
  • 多語言支援：同時提供 Python 與 TypeScript 版。