hyperai/tvm-cn
TVM Documentation in Chinese Simplified / TVM 中文文档
项目:hyperai/tvm-cn
该项目是Apache TVM的中文文档站点,Apache TVM是一个开源深度学习编译器,支持CPU、GPU和ARM等硬件。目标是通过提供官方TVM文档的集中、最新翻译,让中文开发者更容易学习TVM。
当前中文文档基于TVM版本v0.10.0,并使用Docusaurus(一个静态站点生成器)构建。README说明了如何设置本地开发服务器(需要Node.js和pnpm)、如何将外部图片迁移到项目中,以及如何在TVM发布更新时创建新的版本化文档。
欢迎贡献者:
- 报告翻译问题或提交拉取请求
- 帮助翻译和维护文档
- 加入中文TVM社区进行讨论
该项目还提供了在线中文文档站点的链接和贡献指南。
简而言之,这是一个社区驱动的努力,使TVM文档以中文可访问,并为任何想要帮助改进的人提供清晰的说明。
相关
- 项目
vllm-project/llm-compressorLLM Compressor 是一个 Python 库,用于量化和压缩大型语言模型,以便通过 vLLM 实现快速、低内存推理。它支持多种低位格式(FP8、FP4、INT4)、多种算法(GPTQ、AWQ、AutoRound、REAP),并可通过磁盘卸载和 DDP 处理数万亿参数模型。该库直接与 Hugging Face 检查点集成,以 `compressed-tensors` 格式保存模型,并提供即用示例和预压缩检查点。
- 项目
NVIDIA/k8s-device-pluginNVIDIA k8s‑device‑plugin 是一个官方的 DaemonSet,为 NVIDIA GPU 实现了 Kubernetes 的 device‑plugin API。它会发现 GPU、报告健康状况,并通过 `nvidia.com/gpu` 资源(包含可选的 MIG 与 shared‑GPU 模式)使其可被调度。在每个节点上安装 NVIDIA 驱动程序和容器工具包,部署该插件(使用静态清单或 Helm),然后在 pod 规格中请求 GPU。配置可通过标志、环境变量或 YAML 文件进行,涵盖 MIG 策略、设备列表传递、共享 GPU(时间切片或 MPS)等。该插件目前为 beta 版,缺乏完整的健康检查/清理机制,且仅支持官方 NVIDIA 版本。
- 项目
- 项目