simonw/llm-gemini

해결하는 문제

이 프로젝트는 llm CLI 도구용 플러그인을 제공하여 Google의 Gemini 모델 패밀리에 원활한 API 접근을 가능하게 합니다. 사용자는 커맨드 라인에서 이 모델들과 직접 상호작용하고, API 키를 관리하며, 맞춤형 통합 코드를 작성하지 않고도 고급 다중 모달 기능을 활용할 수 있습니다.

작동 방식

이 플러그인은 Gemini 모델을 llm 생태계에 통합합니다. 설치 후 사용자는 API 키를 설정하고 -m 플래그를 사용하여 Gemini Flash나 Gemma와 같은 다양한 Gemini 모델을 호출할 수 있습니다. 이미지, 오디오, 비디오 파일, 심지어 YouTube URL까지 프롬프트의 컨텍스트로 첨부할 수 있어 다중 모달 입력을 지원합니다.

대상 사용자

llm CLI 도구를 사용하고 Google의 Gemini 모델을 워크플로우에 통합하고자 하는 개발자 및 고급 사용자. 특히 다중 모달 분석이나 코드 실행, Google 검색 기반 등의 서버 사이드 도구가 필요한 사용자에게 적합합니다.

주요 기능

• 다중 모달 지원: 이미지, 오디오, 비디오 파일, YouTube URL을 프롬프트 첨부로 처리 가능.
• 서버 사이드 도구: CodeExecution (Python 샌드박스), GoogleSearch (기반), URLContext (웹 콘텐츠 가져오기)를 지원.
• 구조화된 출력: json_object 옵션을 사용해 JSON 출력을 강제할 수 있음.
• 임베딩: 여러 Gemini 임베딩 모델을 지원하며 벡터 차원(768, 1536, 3072)을 사용자 정의 가능.
• 인터랙티브 채팅: llm chat 명령어와 통합되어 대화형 AI 사용 가능.