lmstudio-ai/lms

LM Studio CLI

解决的问题

提供一个命令行界面(CLI),用于管理 LM Studio,使用户无需图形用户界面即可控制本地 AI 模型服务器和模型生命周期。

工作原理

lms 工具充当 LM Studio 应用程序的控制器。它允许用户启动和停止本地 API 服务器,列出已下载的模型,将特定模型加载或卸载到内存中用于推理,并流式传输日志以进行调试。

适用人群

偏好基于终端的工作流或需要通过脚本自动化管理本地 LLM 的开发者和高级用户。

主要亮点

  • 服务器控制:快速启动或停止本地 API 服务器。
  • 模型管理:支持最大 GPU 加速选项,加载、卸载和列出模型。
  • 模型可见性:查看当前已加载并可用于推理的模型。
  • SDK 集成:使用 LM Studio SDK 创建新项目。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目