ggozad/oterm

the terminal client for LLMs

解決的問題

提供專用的終端式使用者介面(TUI),用於與多種 AI 模型互動。無需在不同模型提供者之間切換網頁介面或 API 腳本。

工作原理

oterm 作為客戶端,透過 pydantic-ai 庫連接到 AI 提供者。支援 Ollama、OpenAI、Anthropic、Google、Groq、Mistral 等多種提供者,以及 vLLM、LM Studio 等 OpenAI 相容端點。使用者可在聊天介面的下拉選單中設定 API 金鑰並選擇所需的提供者。

適用對象

偏好在命令列環境中與多個提供者之 LLM 進行對話的開發者與終端導向使用者。

特色

  • 多提供者支援:與 pydantic-ai 支援的任何提供者整合。
  • 優化流式傳輸:在長回應過程中,隨著增量資料到達即時更新 Markdown 內容,維持流暢速度。
  • 現代化 TUI:採用無邊框佈局、自動擴展提示框,以及可摺疊的思考區域。
  • MCP 集成:支援使用與 Claude Desktop 和 Cursor 相容模式的 Model Context Protocol (MCP) 伺服器。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案