supermemoryai/llm-bridge

해결하는 문제

여러 LLM 공급자(예: OpenAI, Anthropic, Google)를 지원하는 애플리케이션을 구축하는 것은 각 공급자가 서로 다른 API 형식, 스트리밍 프로토콜 및 도구 호출 구조를 사용하기 때문에 어렵습니다. LLM Bridge는 이러한 요청과 응답을 정규화하는 범용 변환 계층 역할을 하여 개발자가 코드를 한 번 작성하고 데이터 손실 없이 다양한 AI 모델에 배포할 수 있게 합니다.

작동 방식

LLM Bridge는 범용 중간 형식을 사용하여 공급자별 API를 매핑합니다. toUniversal을 사용하여 지원되는 모든 공급자의 수신 요청을 이 범용 형식으로 변환하고, fromUniversal을 사용하여 다른 공급자의 형식으로 내보낼 수 있습니다. 이 라이브러리는 멀티모달 콘텐츠, 도구 호출, 구조화된 출력 및 스트리밍 이벤트(SSE)를 이러한 서로 다른 시스템 간에 매핑하는 복잡성을 처리하며, 재구성 메커니즘을 통해 데이터 손실이 없음을 보장합니다.

대상 사용자

이 라이브러리는 AI 기반 애플리케이션, 프록시 또는 미들웨어를 구축하는 개발자를 위해 설계되었으며, 여러 LLM 공급자를 동시에 지원하거나 핵심 통합 로직을 다시 작성하지 않고도 쉽게 전환해야 하는 경우에 적합합니다.

주요 기능

• 완벽한 변환: OpenAI, Anthropic, Google 및 OpenAI Responses API 형식 간의 양방향 변환.
• 데이터 손실 없음: 완벽한 요청 재구성을 위해 모든 원래 필드를 보존합니다.
• 전체 스트리밍 지원: 다양한 공급자 간에 서버 전송 이벤트(SSE)를 처리하기 위한 파서와 이미터를 포함합니다.
• 고급 기능: 도구 호출, 멀티모달 입력(이미지/문서), 구조화된 출력 및 확장된 사고 블록을 기본 지원합니다.
• 타입 안전성: 엄격한 타입 검사와 견고한 오류 처리를 위해 TypeScript로 구축되었습니다.