simonw/llm-gemini

해결하는 문제

이 프로젝트는 터미널에서 직접 Google의 Gemini 모델에 액세스할 수 있는 명령줄 인터페이스 및 Python 라이브러리 플러그인을 제공합니다. llm 생태계와 Gemini의 기능 사이의 간극을 메워, 사용자가 사용자 지정 API 통합 코드를 작성하지 않고도 고급 AI 모델과 상호 작용할 수 있게 합니다.

작동 방식

llm 도구의 플러그인으로 작동합니다. 설치 후 API 키를 구성하면 간단한 CLI 명령을 사용하여 다양한 Gemini 모델(flash 및 pro 버전 포함)을 호출할 수 있습니다. 멀티모달 입력(이미지, 오디오, 비디오), Google 검색 그라운딩, 코드 실행, URL 컨텍스트와 같은 고급 기능은 물론 데이터 컬렉션을 위한 벡터 임베딩 생성도 지원합니다.

대상 사용자

이미 llm CLI 도구를 사용 중이며 Google의 Gemini 모델을 로컬 워크플로우, 자동화 스크립트 또는 데이터 처리 파이프라인에 통합하려는 개발자 및 파워 유저를 위한 것입니다.

주요 특징

• 멀티모달 지원: 이미지, 오디오, 비디오 및 YouTube URL을 명령줄에서 직접 쉽게 처리할 수 있습니다.
• 고급 도구: Google 검색 그라운딩, 안전한 코드 실행, URL 컨텍스트 가져오기와 같은 서버 측 기능을 활성화합니다.
• 임베딩 생성: 로컬 SQLite 데이터베이스에서 유사성 검색을 수행하기 위해 벡터 임베딩을 생성하고 저장하는 도구를 제공합니다.
• 구성 가능한 추론: 모델별 '사고' 수준이나 예산을 지원하여 모델의 추론 프로세스 깊이를 제어할 수 있습니다.
• 원활한 통합: 더 넓은 llm 플러그인 생태계와 완벽하게 호환되어 다양한 모델 제공업체 간에 쉽게 전환할 수 있습니다.