onnx/onnx

Open standard for machine learning interoperability

它解决了什么问题

AI 开发人员在项目演进过程中经常需要在不同框架之间切换，但用一种工具构建的模型很难在另一种工具中使用。ONNX 通过定义一种开放、标准的 AI 模型格式解决了这个问题，使得许多框架、工具和硬件平台都能对其进行读写。这减少了从研究到生产过程中的摩擦，并使选择适合每项任务的工具变得更加容易。

它是如何工作的

ONNX 指定了一个可扩展的计算图模型，以及一组内置算子和标准数据类型。该项目提供了一个用于处理这些图的 Python 包，包括用于形状和类型推理的实用程序，以及指向图优化和算子集版本转换工具的链接。该规范还涵盖了中间表示 (IR) 细节、版本控制原则和算子文档，以便工具能够一致地进行互操作。

适用人群

ONNX 适用于希望在框架之间交换模型、使用预训练模型或构建模型操作工具的 AI 开发人员、研究人员和工具构建者。由于其在 AI 生态系统中的广泛支持，它也适合任何希望以最小摩擦将模型从研究投入生产的人。

亮点

  • 开源且由社区驱动，具有开放的治理模型
  • 支持深度学习和传统机器学习模型
  • 专注于推理（评分）能力
  • 在许多框架、工具和硬件中得到广泛支持
  • 提供用于图操作、推理和版本转换的 Python 实用程序
  • 包含用于一致性工件的可重现构建支持
  • 拥有一个活跃的社区，定期举行会议并提供贡献机会

相关

  • 项目
    pnnx/pnnx

    pnnx 是一个开源工具，可优化 PyTorch 模型并将其导出为轻量、无依赖的格式（PNNX）以及 ncnn/ONNX-zero 文件，使边缘设备上的快速推理成为可能。

  • 项目
    onnx/models

    精选的预训练最先进机器学习模型集合，采用 ONNX 格式，实现跨框架的兼容性与部署。

  • 项目
    inisis/OnnxSlim

    OnnxSlim 是一个 Python 包，通过移除不必要的运算符来简化 ONNX 模型，在保持精度的同时加速推理。通过 `pip install onnxslim` 安装，然后运行 `onnxslim input.onnx output.onnx` 或使用其 `onnxslim.slim()` API。它已集成到许多 AI 工具链中（TensorRT‑Model‑Optimizer、HuggingFace optimum、Ultralytics 等），下载量已达数百万。

  • 项目
    microsoft/onnxscript

    一个基于 Python 的框架，允许开发者使用自然的 Python 语法而不是手动图构建来编写、调试和优化 ONNX 模型。

  • 项目
    onnxsim/onnxsim

    ONNX Simplifier 通过常量折叠、形状推断和优化器传递来降低 ONNX 模型复杂度，提供正确性检查以及导出到 MLIR、Core ML 和 TensorFlow Lite 等格式的选项。