simonw/llm-openrouter
LLM plugin for models hosted by OpenRouter
解決的問題
llm-openrouter 是一個適用於 llm 命令列工具的外掛程式,讓使用者能夠存取 OpenRouter 託管的大量模型,提供統一的介面以從終端機對不同的 AI 模型進行提示。
運作方式
此外掛程式將 OpenRouter 的 API 整合至 llm 工具中。安裝並設定 API 金鑰後,使用者可以列出可用模型、為常用模型設定別名,並對它們執行提示。它支援 OpenRouter 的 Responses API 以及較舊的 Chat Completions API。
適用對象
使用 llm CLI 工具,並希望透過 OpenRouter 從多個供應商存取多種 AI 模型的開發人員與進階使用者。
亮點
- 廣泛的模型存取:透過單一 API 金鑰與 CLI 介面存取眾多模型。
- 多模態能力:為相容的視覺模型支援影像附件(URL 或檔案路徑)。
- 結構化輸出:與
llm結構描述整合,為相容模型控制 JSON 輸出結構。 - 進階工具:支援工具呼叫,包含 OpenRouter 針對網頁搜尋、網頁擷取與沙盒殼層的託管伺服器端工具。
- 推理控制:可為支援的模型(例如 GPT-5)指定推理努力程度與摘要的選項。
- 供應商路由:能夠透過 JSON 選項指定特定供應商的需求,例如量化級別。
- 模型管理:用於列出、篩選(例如免費模型)以及檢查 API 金鑰使用量與速率限制的命令。
相關
- 專案
- 專案
- 專案
- 專案
- 專案