tbckr/sgpt

해결하는 문제

SGPT는 명령줄에서 대규모 언어 모델(LLM)과 직접 상호 작용할 수 있는 방법을 제공합니다. 답변을 얻거나 코드를 생성하거나 셸 명령을 만들기 위해 터미널과 웹 브라우저를 전환할 필요가 없어 개발 워크플로우를 간소화합니다.

작동 방식

Go로 작성된 SGPT는 OpenAI 호환 API를 위한 CLI 래퍼 역할을 합니다. 사용자 프롬프트를 지정된 모델에 보내고 응답을 터미널로 반환합니다. 사용자가 API 기본 URL과 키를 구성할 수 있도록 하여 OpenAI, OpenRouter, Requesty, Google Gemini 및 Ollama 또는 vLLM과 같은 로컬 LLM 실행기를 포함한 다양한 백엔드를 지원합니다.

대상 사용자

터미널에서 대부분의 시간을 보내며 환경을 떠나지 않고 코딩, 셸 스크립팅 및 일반적인 질의에 대한 AI 지원을 원하는 개발자, 시스템 관리자 및 파워 유저를 위해 설계되었습니다.

주요 특징

• 멀티 모델 지원: OpenAI(GPT-4o 및 o1 포함), Google Gemini 및 모든 OpenAI 호환 로컬 또는 게이트웨이 API와 함께 작동합니다.
• 셸 통합: 셸 명령을 생성하고 사용자 확인 후 직접 실행할 수 있습니다.
• 비전 기능: 비전 지원 모델을 사용하여 이미지 입력(URL 또는 로컬 경로를 통해) 분석을 지원합니다.
• 대화형 채팅: 여러 명령에 걸쳐 대화 컨텍스트를 유지하기 위해 이름이 지정된 채팅 세션을 지원합니다.
• 프롬프트 템플릿: Go text/template 구문을 사용하여 stdin을 통해 JSON 또는 YAML 데이터를 프롬프트에 주입합니다.
• 코드 생성: 다양한 프로그래밍 언어로 코드 스니펫을 생성하기 위한 전용 페르소나를 제공합니다.