jonigl/mcp-client-for-ollama

해결하는 문제

ollmcp는 사용자가 Ollama를 통해 로컬 대규모 언어 모델(LLM)을 Model Context Protocol(MCP) 서버에 연결할 수 있게 해주는 터미널 기반 클라이언트입니다. 로컬 LLM과 외부 도구, 프롬프트, 리소스 간의 격차를 메우고, 사용자가 코드를 작성하지 않고도 고급 도구 호출 작업을 실행할 수 있는 통제된 환경을 제공합니다.

작동 방식

이 애플리케이션은 다양한 전송 유형(STDIO, SSE, Streamable HTTP)을 사용하여 하나 이상의 MCP 서버에 연결하는 TUI(터미널 사용자 인터페이스)로 작동합니다. 핵심 MCP 프리미티브(도구, 프롬프트, 리소스)를 지원하고 이를 LLM 공급자와 통합합니다. 모델이 도구 호출을 요청하면 클라이언트가 실행을 관리하며, "에이전트 모드"(반복적 도구 실행) 또는 "인간 개입 모드"(실행 전 수동 승인 필요)로 구성할 수 있습니다.

대상 사용자

터미널 환경에서 도구 실행에 로컬 LLM을 사용하거나, MCP 서버를 테스트하거나, 에이전트 워크플로우를 구축하려는 하네스 엔지니어, 개발자, AI 애호가를 위해 설계되었습니다.

주요 기능

• 에이전트 모드: 구성 가능한 루프 제한으로 반복적 도구 실행을 지원합니다.
• 다중 서버 지원: 다양한 전송 유형에 걸쳐 여러 MCP 서버에 동시에 연결합니다.
• 인간 개입(HIL): 도구 실행에 대한 사용자 검토 및 승인을 요구하여 안전 제어를 제공합니다.
• 광범위한 공급자 지원: 기본적으로 Ollama와 작동하며 OpenRouter, DeepSeek, Atlas Cloud와 같은 OpenAI 호환 공급자도 지원합니다.
• 고급 모델 제어: 컨텍스트 창 크기와 온도를 포함한 15개 이상의 매개변수 미세 조정을 제공합니다.
• 생각 모드: 호환 모델(예: DeepSeek-R1)의 가시적 추론 프로세스를 지원합니다.
• 개발자 친화적: MCP 서버의 핫 리로딩, 명령의 퍼지 자동 완성, 상세한 성능 메트릭을 포함합니다.