ggozad/oterm
the terminal client for LLMs
해결하는 문제
다양한 AI 모델과 상호작용하기 위한 전용 터미널 기반 사용자 인터페이스(TUI)를 제공합니다. 다양한 모델 제공업체를 사용할 때마다 웹 인터페이스나 API 스크립트를 전환할 필요가 없습니다.
작동 방식
oterm은 pydantic-ai 라이브러리를 통해 AI 제공업체에 연결하는 클라이언트입니다. Ollama, OpenAI, Anthropic, Google, Groq, Mistral 등 다양한 제공업체를 지원하며, vLLM이나 LM Studio와 같은 OpenAI 호환 엔드포인트도 포함됩니다. 사용자는 채팅 인터페이스 내의 드롭다운 메뉴에서 API 키를 설정하고 원하는 제공업체를 선택할 수 있습니다.
대상 사용자
다수의 제공업체를 통해 LLM과 대화를 나누는 데 명령줄 환경을 선호하는 개발자 및 터미널 중심 사용자입니다.
주요 기능
- 다중 제공업체 지원:
pydantic-ai가 지원하는 모든 제공업체와 통합 가능. - 최적화된 스트리밍: 긴 응답 중에도 속도를 유지하기 위해 마크다운 콘텐츠를 델타 도착 시 업데이트.
- 현대적인 TUI: 테두리 없는 레이아웃, 자동 확장 프롬프트, 접을 수 있는 사고 섹션을 제공.
- MCP 통합: Claude Desktop 및 Cursor와 호환되는 스키마를 사용한 Model Context Protocol(MCP) 서버 지원.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트