Mirascope/mirascope

해결하는 문제

Mirascope는 다양한 프론티어 대형 언어 모델(LLM)과 상호 작용하기 위한 통합 인터페이스를 제공합니다. LLM 호출, 프롬프트 관리 및 에이전트 행동을 위한 툴 통합 과정을 단순화하여 서로 다른 모델 제공자 간 전환에 필요한 보일러플레이트 코드를 줄여줍니다.

작동 방식

이 라이브러리는 데코레이터 기반 접근 방식을 사용해 LLM 호출을 정의합니다. @llm.call을 적용하면 라이브러리가 모델 제공자와의 통신을 처리합니다. Pydantic 모델을 통한 구조화된 출력을 지원하여 동일한 응답을 타입이 지정된 객체로 파싱할 수 있습니다. 또한 @llm.tool을 제공해 LLM이 호출할 수 있는 함수를 정의함으로써, 툴을 실행하고 툴 출력에 따라 대화 턴을 재개하는 에이전트를 구축할 수 있습니다.

대상

다양한 모델 제공자 간에 일관된 API를 사용하고, 구조화된 데이터 추출 및 툴 호출 에이전트를 간편하게 구현하고자 하는 LLM 기반 애플리케이션 개발자에게 적합합니다.

주요 특징

• 통합 인터페이스: 단일하고 일관된 API를 통해 여러 프론티어 LLM에 접근.
• 구조화된 출력: Pydantic을 기본 지원하여 모델 응답을 구조화된 데이터로 쉽게 파싱.
• 툴 호출: 툴 정의와 실행 루프를 간소화하여 AI 에이전트를 생성.
• 다중 언어 지원: Python 및 TypeScript 모두에서 사용 가능.