Mirascope/mirascope
The LLM Anti-Framework
解決する課題
Mirascope は、さまざまなフロンティア大型言語モデル(LLM)とやり取りするための統一インターフェースを提供します。LLM の呼び出し、プロンプト管理、エージェント的なツール統合のプロセスを簡素化し、異なるモデルプロバイダー間の切り替えに必要なボイラープレートコードを削減します。
仕組み
このライブラリはデコレータベースのアプローチで LLM 呼び出しを定義します。@llm.call を適用するだけで、モデルプロバイダーとの通信をライブラリが処理します。Pydantic モデルによる構造化出力をサポートし、同じレスポンスを型付きオブジェクトにパースできます。また、@llm.tool を提供し、LLM が呼び出せる関数を定義できるため、ツールを実行しツール出力に基づいて会話ターンを再開できるエージェントを構築できます。
対象者
異なるモデルプロバイダー間で一貫した API を利用したい、構造化データ抽出やツール呼び出しエージェントの実装を簡素化したい LLM 活用アプリケーション開発者向けです。
ハイライト
- 統一インターフェース:単一で一貫した API を通じて複数のフロンティア LLM にアクセス。
- 構造化出力:Pydantic をネイティブにサポートし、モデル応答を構造化データに簡単にパース。
- ツール呼び出し:ツール定義と実行ループを簡素化し、AI エージェントを作成。
- マルチ言語サポート:Python と TypeScript の両方で利用可能。