modal-labs/gpu-glossary

GPU documentation for humans

此仓库包含 Modal GPU 术语表 的源文件，这是一个与 GPU 编程相关的在线术语词典，重点介绍 Modal 平台上可用的 NVIDIA GPU。

内容： 术语表内容位于 gpu-glossary 文件夹中。仓库的其余部分包含支持文件（如许可证文本、构建工具等）。

许可： 适用两种许可证。gpu-glossary 文件夹中的所有文件均受 知识共享署名 4.0 国际 (CC BY 4.0) 许可。仓库中的所有其他文件均受 MIT 许可证 许可。每个许可证文件均已包含。

翻译： README 链接到社区维护的中文（简体中文）翻译，位于 miter6/gpu-glossary-zh。

相关

  • 项目
    SharpAI/SwiftLM

    一个原生 Swift、OpenAI 兼容的推理服务器，用于 Apple Silicon 上的 MLX 模型，具有 TurboQuant（4 倍 KV 缓存压缩）、MTP 投机解码和用于大型 MoE 模型的 SSD 流式传输，并在 M 系列芯片上进行了广泛的基准测试。

  • 项目
    bstnxbt/dflash-mlx

    一种针对 Apple Silicon 的预测解码实现，利用块扩散草稿模型在不损失输出质量的前提下加速 LLM 推理。

  • 项目
    tiiuae/Falcon-Perception

    Falcon‑Perception 是一个开源的 PyTorch/MLX 推理库，专为 Falcon 多模态变换器设计，可基于自然语言查询执行对象检测、实例分割或 OCR。它提供高度优化的分页和批处理引擎、FastAPI 服务器、Streamlit UI、Docker/vLLM 部署用于 OCR，以及 Colab 笔记本。270 M 参数的 Falcon‑OCR 1.5 模型在保持三倍更小体积的同时，实现了与更大 VLM 相当的端到端 OCR 质量。

  • 项目
    sgasser/pasteguard

    PasteGuard是一个自托管代理，在请求到达LLM提供商（ChatGPT、Claude、Gemini等）之前，对请求中的个人数据和秘密进行脱敏。它通过Docker运行，提供仪表板，并支持仅掩码和路由到本地LLM两种模式。