lmstudio-ai/lms
LM Studio CLI
解决的问题
提供一个命令行界面(CLI),用于管理 LM Studio,使用户无需图形用户界面即可控制本地 AI 模型服务器和模型生命周期。
工作原理
lms 工具充当 LM Studio 应用程序的控制器。它允许用户启动和停止本地 API 服务器,列出已下载的模型,将特定模型加载或卸载到内存中用于推理,并流式传输日志以进行调试。
适用人群
偏好基于终端的工作流或需要通过脚本自动化管理本地 LLM 的开发者和高级用户。
主要亮点
- 服务器控制:快速启动或停止本地 API 服务器。
- 模型管理:支持最大 GPU 加速选项,加载、卸载和列出模型。
- 模型可见性:查看当前已加载并可用于推理的模型。
- SDK 集成:使用 LM Studio SDK 创建新项目。
相关
- 项目
sybil-solutions/local-studioLocal Studio is an open‑source macOS/desktop app that lets you run, manage, and chat with self‑hosted LLM back‑ends (vLLM, SGLang, llama.cpp, MLX). It combines a Bun + Hono controller (model lifecycle, OpenAI‑compatible proxy, GPU metrics) with a Next.js/Electron UI and an integrated Pi coding‑agent. The UI works locally or can point at a remote controller, and a companion mobile app (KittyLitter) can pair to reuse the same sessions. The repo provides full dev‑setup scripts, production build instructions, and a CI‑driven release pipeline.
- 项目
- 项目
lmstudio-ai/lmstudio-jsThe official JavaScript/TypeScript SDK for LM Studio, enabling developers to integrate local LLMs into applications with advanced memory and hardware controls.
- 项目
- 项目