simonw/llm-openrouter

LLM plugin for models hosted by OpenRouter

解決的問題

llm-openrouter 是一個適用於 llm 命令列工具的外掛程式,讓使用者能夠存取 OpenRouter 託管的大量模型,提供統一的介面以從終端機對不同的 AI 模型進行提示。

運作方式

此外掛程式將 OpenRouter 的 API 整合至 llm 工具中。安裝並設定 API 金鑰後,使用者可以列出可用模型、為常用模型設定別名,並對它們執行提示。它支援 OpenRouter 的 Responses API 以及較舊的 Chat Completions API。

適用對象

使用 llm CLI 工具,並希望透過 OpenRouter 從多個供應商存取多種 AI 模型的開發人員與進階使用者。

亮點

  • 廣泛的模型存取:透過單一 API 金鑰與 CLI 介面存取眾多模型。
  • 多模態能力:為相容的視覺模型支援影像附件(URL 或檔案路徑)。
  • 結構化輸出:與 llm 結構描述整合,為相容模型控制 JSON 輸出結構。
  • 進階工具:支援工具呼叫,包含 OpenRouter 針對網頁搜尋、網頁擷取與沙盒殼層的託管伺服器端工具。
  • 推理控制:可為支援的模型(例如 GPT-5)指定推理努力程度與摘要的選項。
  • 供應商路由:能夠透過 JSON 選項指定特定供應商的需求,例如量化級別。
  • 模型管理:用於列出、篩選(例如免費模型)以及檢查 API 金鑰使用量與速率限制的命令。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案