ggozad/oterm

the terminal client for LLMs

해결하는 문제

다양한 AI 모델과 상호작용하기 위한 전용 터미널 기반 사용자 인터페이스(TUI)를 제공합니다. 다양한 모델 제공업체를 사용할 때마다 웹 인터페이스나 API 스크립트를 전환할 필요가 없습니다.

작동 방식

otermpydantic-ai 라이브러리를 통해 AI 제공업체에 연결하는 클라이언트입니다. Ollama, OpenAI, Anthropic, Google, Groq, Mistral 등 다양한 제공업체를 지원하며, vLLM이나 LM Studio와 같은 OpenAI 호환 엔드포인트도 포함됩니다. 사용자는 채팅 인터페이스 내의 드롭다운 메뉴에서 API 키를 설정하고 원하는 제공업체를 선택할 수 있습니다.

대상 사용자

다수의 제공업체를 통해 LLM과 대화를 나누는 데 명령줄 환경을 선호하는 개발자 및 터미널 중심 사용자입니다.

주요 기능

  • 다중 제공업체 지원: pydantic-ai가 지원하는 모든 제공업체와 통합 가능.
  • 최적화된 스트리밍: 긴 응답 중에도 속도를 유지하기 위해 마크다운 콘텐츠를 델타 도착 시 업데이트.
  • 현대적인 TUI: 테두리 없는 레이아웃, 자동 확장 프롬프트, 접을 수 있는 사고 섹션을 제공.
  • MCP 통합: Claude Desktop 및 Cursor와 호환되는 스키마를 사용한 Model Context Protocol(MCP) 서버 지원.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트