tbckr/sgpt

解決的問題

SGPT 提供了一種直接從命令列與大型語言模型 (LLM) 進行互動的方法。它消除了為了獲取答案、生成程式碼或建立 Shell 命令而在終端機與 Web 瀏覽器之間切換的需要，從而簡化了開發工作流程。

工作原理

SGPT 使用 Go 編寫，作為 OpenAI 相容 API 的 CLI 封裝器。它將使用者提示發送到指定模型，並將回應返回到終端機。透過允許使用者配置 API 基礎 URL 和金鑰，它支援包括 OpenAI、OpenRouter、Requesty、Google Gemini 以及本地 LLM 執行器（如 Ollama 或 vLLM）在內的各種後端。

適用對象

專為開發者、系統管理員和進階使用者設計，他們在終端機中花費大部分時間，並希望在不離開當前環境的情況下獲得編碼、Shell 腳本和一般查詢的 AI 輔助。

亮點

• 多模型支援：支援 OpenAI（包括 GPT-4o 和 o1）、Google Gemini 以及任何與 OpenAI 相容的本地或閘道 API。
• Shell 整合：可以生成 Shell 命令並在使用者確認後直接執行。
• 視覺能力：支援透過 URL 或本地路徑進行圖像輸入，以便使用具備視覺能力的模型進行分析。
• 互動式聊天：支援命名聊天對話，以便在多個命令之間保持對話上下文。
• 提示詞模板：使用 Go text/template 語法透過 stdin 將 JSON 或 YAML 資料注入提示詞。
• 程式碼生成：擁有用於生成各種程式語言程式碼片段的專用角色。