simonw/llm-openrouter

해결하는 문제

llm-openrouter는 llm 명령줄 유틸리티용 플러그인으로, 사용자가 OpenRouter에서 호스팅되는 방대한 모델에 액세스할 수 있게 하며, 터미널에서 다양한 AI 모델에 프롬프트를 실행할 수 있는 통합 인터페이스를 제공합니다.

작동 방식

이 플러그인은 OpenRouter의 API를 llm 도구에 통합합니다. 설치 후 API 키로 구성하면 사용자는 사용 가능한 모델을 나열하고, 자주 사용하는 모델의 별칭을 설정하고, 해당 모델에 대해 프롬프트를 실행할 수 있습니다. OpenRouter의 Responses API와 이전 버전의 Chat Completions API를 지원합니다.

대상 사용자

llm CLI 도구를 사용하며 OpenRouter를 통해 다양한 제공업체의 여러 AI 모델에 대한 단일 액세스 지점을 원하는 개발자 및 파워 유저.

주요 기능

• 폭넓은 모델 액세스: 단일 API 키와 CLI 인터페이스를 통해 수많은 모델에 액세스.
• 멀티모달 기능: 호환되는 비전 모델에 대한 이미지 첨부(URL 또는 파일 경로) 지원.
• 구조화된 출력: llm 스키마와 통합하여 호환되는 모델의 JSON 출력 구조 제어.
• 고급 도구: 웹 검색, 웹 페치 및 샌드박스 셸을 위한 OpenRouter의 호스팅된 서버 측 도구를 포함한 도구 호출 지원.
• 추론 제어: 이를 지원하는 모델(예: GPT-5)에 대해 추론 노력 및 요약을 지정하는 옵션.
• 제공업체 라우팅: JSON 옵션을 통해 양자화 수준과 같은 제공업체별 요구 사항을 지정하는 기능.
• 모델 관리: API 키 사용량 및 속도 제한을 나열, 필터링(예: 무료 모델) 및 검사하는 명령.