lmstudio-ai/mlx-engine
LM Studio Apple MLX engine
解决的问题
它为 macOS 上的 LM Studio 提供高性能 LLM 引擎，允许用户在 Apple Silicon 上以优化的性能本地运行大语言模型和视觉模型。
工作原理
该引擎基于 Apple MLX 框架构建，利用 mlx-lm 进行文本生成，利用 mlx-lm 进行视觉模型推理，并利用 Outlines 实现结构化输出。它直接集成到 Mac 版 LM Studio（0.3.4+ 版本）中，但也支持通过 Python 进行独立演示使用。
适用对象
希望使用 Apple 优化的 MLX 框架在 LM Studio 生态系统中运行本地 LLM 和视觉模型的 Mac 用户。
相关
- 项目
- 项目
jjang-ai/vmlx专为 Apple Silicon 设计的自托管推理服务器，提供 OpenAI、Anthropic 和 Ollama 兼容 API，可在本地运行 LLM、VLM 和图像生成模型。
- 项目
Blaizzy/mlx-vlm一个在 Mac 上使用 MLX 进行视觉语言模型与全能模型推理及微调的包，支持多模态输入与推测解码以实现更快的生成速度。
- 项目
- 项目
vllm-project/vllm-metalvLLM Metal 是一个插件，使 vLLM LLM 服务系统能够通过 MLX/Metal 后端在 Apple Silicon Mac 上运行。它提供了 Metal 优化的注意力内核（分页变长、M5 NAX 预填充），并支持 Qwen-3.8-27B 等大型模型。通过 Homebrew 或 curl 脚本安装，然后在 macOS 15+ 上使用常规的 `vllm` 命令。