ggozad/oterm

the terminal client for LLMs

解决的问题

提供一个专用于与多种 AI 模型交互的终端用户界面(TUI)。无需在不同模型提供商的网页界面或 API 脚本之间切换。

工作原理

oterm 作为客户端,通过 pydantic-ai 库连接到 AI 提供商。支持 Ollama、OpenAI、Anthropic、Google、Groq、Mistral 等多种提供商,以及 vLLM、LM Studio 等 OpenAI 兼容端点。用户可在聊天界面的下拉菜单中配置 API 密钥并选择所需提供商。

适用人群

偏好在命令行环境中与多个提供商的 LLM 进行对话的开发者和终端用户。

特色

  • 多提供商支持:与 pydantic-ai 支持的任何提供商集成。
  • 优化的流式传输:在长响应过程中,随增量数据到达实时更新 Markdown 内容,保持流畅速度。
  • 现代 TUI:采用无边框布局、自动扩展的提示框,以及可折叠的思考区域。
  • MCP 集成:支持使用与 Claude Desktop 和 Cursor 兼容的模式的 Model Context Protocol (MCP) 服务器。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目