microsoft/onnxscript

해결하는 문제

ONNX Script는 개발자가 ONNX 함수 및 모델을 더 자연스럽고 간결하게 작성하고 디버깅하며 최적화할 수 있도록 도와줍니다. 복잡한 ONNX 그래프를 수동으로 구성하는 대신, 파이썬의 일부를 사용하여 모델을 정의할 수 있어 표현력이 높아지고 관리가 쉬워집니다.

작동 방식

이 프로젝트는 파이썬 데코레이터 (@script)를 사용하여 파이썬 코드를 중간 표현으로 파싱한 후, ONNX 그래프(FunctionProto 또는 ModelProto)로 변환합니다. 양방향 변환을 지원하여 파이썬 스크립트와 ONNX 모델 간에 상호 변환할 수 있습니다. 또한 실행 시 샤프트(shim)를 포함하여 "즉시 모드" 평가를 가능하게 하여, ONNX Runtime을 사용해 연산자 실행을 하면서 파이썬에서 함수를 직접 실행하고 디버깅할 수 있습니다.

대상 사용자

ONNX 모델과 그 기반을 이루는 함수를 생성, 수정, 최적화해야 하는 AI 개발자 및 머신러닝 엔지니어.

주요 특징

• 양방향 변환: 파이썬 기반 ONNX Script와 ONNX 그래프 간의 변환 가능.
• 즉시 모드 디버깅: 전체 모델을 내보내지 않고도 함수를 즉시 평가하여 중간 결과를 검증 가능.
• ONNX 최적화기: 상수 폴딩 및 죽은 코드 제거를 위한 도구를 포함하여 모델 성능 향상.
• ONNX 리라이터: 특정 그래프 패턴을 사용자 정의 리라이트 규칙으로 대체하여 그래프 수준 최적화 가능.