ggozad/oterm
the terminal client for LLMs
解決的問題
提供專用的終端式使用者介面(TUI),用於與多種 AI 模型互動。無需在不同模型提供者之間切換網頁介面或 API 腳本。
工作原理
oterm 作為客戶端,透過 pydantic-ai 庫連接到 AI 提供者。支援 Ollama、OpenAI、Anthropic、Google、Groq、Mistral 等多種提供者,以及 vLLM、LM Studio 等 OpenAI 相容端點。使用者可在聊天介面的下拉選單中設定 API 金鑰並選擇所需的提供者。
適用對象
偏好在命令列環境中與多個提供者之 LLM 進行對話的開發者與終端導向使用者。
特色
- 多提供者支援:與
pydantic-ai支援的任何提供者整合。 - 優化流式傳輸:在長回應過程中,隨著增量資料到達即時更新 Markdown 內容,維持流暢速度。
- 現代化 TUI:採用無邊框佈局、自動擴展提示框,以及可摺疊的思考區域。
- MCP 集成:支援使用與 Claude Desktop 和 Cursor 相容模式的 Model Context Protocol (MCP) 伺服器。
相關
- 專案
- 專案
- 專案
- 專案
- 專案