microsoft/onnxscript

해결하는 문제

ONNX Script는 ONNX 모델 작성, 디버깅 및 최적화 과정을 단순화합니다. 복잡한 ONNX 그래프를 수동으로 구성하는 대신, 개발자는 간결한 Python 기반 구문을 사용하여 함수와 모델을 정의한 후 이를 유효한 ONNX 그래프로 변환할 수 있습니다.

작동 방식

이 프로젝트는 Python 추상 구문 트리(AST)를 탐색하여 Python 함수(@script 데코레이터로 표시된 것)를 ONNX 그래프로 변환하는 변환기를 제공합니다. 또한 역방향 과정도 지원하여 ONNX 모델을 ONNX Script로 변환하여 가독성을 높입니다. 디버깅을 돕기 위해 ONNX Runtime 또는 Python 전용 참조 평가기를 사용하여 이러한 함수의 "이저 모드" 평가를 허용하는 런타임 심이 포함되어 있습니다.

대상 사용자

ONNX 모델을 생성하거나 수정해야 하며, 원시 그래프 구성과 비교하여 더 자연스럽고 디버깅 가능하며 표현력 있는 정의 방식을 원하는 AI 개발자와 ML 엔지니어입니다.

주요 특징

• Pythonic 작성: Python의 하위 집합을 사용하여 ONNX 함수를 정의하여 더 간결하고 간단한 경험을 제공합니다.
• 양방향 변환: Python 함수를 ONNX 그래프로 변환하고 그 역도 지원합니다.
• 이저 모드: 함수의 즉시 평가를 가능하게 하여 중간 결과의 더 빠른 디버깅과 검증을 지원합니다.
• 최적화 도구: 상수 접기 및 데드 코드 제거를 위한 최적화기와 사용자 정의 규칙에 따라 특정 그래프 패턴을 교체하는 리라이터가 포함되어 있습니다.