lmstudio-ai/lms

LM Studio CLI

解決的問題

提供一個命令列介面(CLI)來管理 LM Studio,讓使用者無需圖形化使用者介面即可控制本地 AI 模型伺服器與模型生命週期。

運作方式

lms 工具扮演 LM Studio 應用程式的控制器。它允許使用者啟動或停止本地 API 伺服器、列出已下載的模型、將特定模型載入或卸載至記憶體以進行推論,並串流日誌以進行除錯。

適用對象

偏好終端機工作流程,或需要透過指令碼自動化管理本地 LLM 的開發者與進階使用者。

主要特色

  • 伺服器控制:快速啟動或停止本地 API 伺服器。
  • 模型管理:支援最大 GPU 加速選項,載入、卸載與列出模型。
  • 模型可見性:檢查目前載入並可用於推論的模型。
  • SDK 整合:使用 LM Studio SDK 建立新專案。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案