vllm-project/recipes

vLLM 是一个用于运行大型 AI 模型的引擎。本项目旨在帮助人们回答一个实际问题：我该如何在 Y 硬件上为 Z 任务运行 X 模型？ —— 例如，如何在 NVIDIA GPU 上运行 DeepSeek-V3 进行聊天，或运行 Qwen3 进行图像识别。

本仓库是这些说明的中心枢纽。每条说明被称为一个配方 (recipe) —— 即一个结构化文件，描述了在特定硬件上、针对特定用例运行特定模型的最佳方式。

工作原理

配方本身由最了解每个模型的团队编写和维护（例如，DeepSeek 团队维护 DeepSeek 的配方）。这些配方存在于其他仓库中，而非此处。本仓库的任务是：

1. 拉取来自其原始仓库的所有配方文件
2. 合并它们
3. 验证它们
4. 构建公共网站 recipes.vllm.ai 及其 JSON API

可以将其想象成报纸编辑：文章由不同城市的专家撰写，而本仓库就是负责收集、检查并印刷它们的编辑部。

自动更新

后台进程每 20 分钟检查一次是否有任何配方源发生更改。如果有，它会验证新内容，然后自动更新网站。如果验证失败，网站将继续提供上一个良好版本 —— 不会中断 —— 并在 GitHub 上开启一个 issue 以标记该问题。

来源与信任

每个配方页面都包含一个指向实际拥有该文件的仓库的“编辑配方”链接。每条配方数据都带有元数据，标识其来源的准确仓库、提交记录和文件路径 —— 因此您可以随时将命令追溯到其原始来源。

贡献分工

本项目分离了职责：

• 模型配方（如“如何运行 DeepSeek-V3”）由 vLLM 项目和 vLLM-Omni 项目拥有
• 架构、硬件配置文件、服务策略和平台定义由本项目拥有
• 网站构建、JSON API 和命令合成由本项目拥有

本地开发

开发人员可以通过将本仓库指向源仓库的本地检出（通过 sources.local.yaml 文件），然后运行几个命令来同步、验证和组装内容，从而在本地预览更改。

旧版内容

还有一些旧的 Markdown 指南文件（位于 DeepSeek/、Qwen/ 等文件夹中）—— 这些来自之前的文档网站，在项目过渡到较新的基于 YAML 的配方格式期间保留作为参考。

许可证

Apache License 2.0。