ggozad/oterm
the terminal client for LLMs
解决的问题
提供一个专用于与多种 AI 模型交互的终端用户界面(TUI)。无需在不同模型提供商的网页界面或 API 脚本之间切换。
工作原理
oterm 作为客户端,通过 pydantic-ai 库连接到 AI 提供商。支持 Ollama、OpenAI、Anthropic、Google、Groq、Mistral 等多种提供商,以及 vLLM、LM Studio 等 OpenAI 兼容端点。用户可在聊天界面的下拉菜单中配置 API 密钥并选择所需提供商。
适用人群
偏好在命令行环境中与多个提供商的 LLM 进行对话的开发者和终端用户。
特色
- 多提供商支持:与
pydantic-ai支持的任何提供商集成。 - 优化的流式传输:在长响应过程中,随增量数据到达实时更新 Markdown 内容,保持流畅速度。
- 现代 TUI:采用无边框布局、自动扩展的提示框,以及可折叠的思考区域。
- MCP 集成:支持使用与 Claude Desktop 和 Cursor 兼容的模式的 Model Context Protocol (MCP) 服务器。
相关
- 项目
- 项目
- 项目
- 项目
- 项目