amd/RyzenAI-SW

해결하는 문제

AMD Ryzen AI 기반 PC에서 AI 추론을 최적화하고 배포하기 위해 필요한 도구와 런타임 라이브러리를 제공하여, 개발자가 AI 애플리케이션에 하드웨어 가속을 활용할 수 있도록 합니다.

작동 방식

이 소프트웨어는 AI 모델과 Ryzen AI 하드웨어 사이의 다리 역할을 하며, 다양한 모델의 효율적인 실행을 가능하게 하는 런타임 라이브러리와 도구 세트를 제공합니다. ONNX Runtime 및 Windows ML과의 통합을 지원하며, CNN, Transformer, LLM 등 다양한 모델 유형을 위한 전용 예제도 제공합니다.

대상 사용자

AMD Ryzen AI 기반 하드웨어 전용으로 AI 애플리케이션을 개발하고 성능과 효율을 극대화하고자 하는 개발자

주요 특징

• ONNX Runtime GenAI API를 사용한 대규모 언어 모델(LLM) 지원, RAG 및 비전 언어 모델(VLM) 포함.
• 이미지 분류, 객체 탐지(YOLOv8), 슈퍼해상도 기능 지원.
• Windows ML과의 통합을 통해 Transformer 및 LLM 실행 가능.
• OpenAI Whisper 및 NVIDIA Parakeet TDT를 활용한 자동 음성 인식(ASR) 지원.
• AMD Quark를 통한 모델 양자화 도구 제공.