Speedstu/CUDA-for-AMD-Windows

Run CUDA-targeted Windows applications on AMD GPUs with ZLUDA + ROCm/HIP.

해결하는 문제

이 프로젝트는 AMD Radeon GPU가 장착된 Windows 시스템에서 CUDA 대상 애플리케이션을 실행할 수 있게 합니다. ZLUDA와 AMD ROCm/HIP 스택을 활용하여 NVIDIA 독점 CUDA 생태계와 AMD 하드웨어 간의 격차를 메우며, 개발자와 연구자가 NVIDIA GPU 없이 AMD 하드웨어에서 AI 워크로드를 실행할 수 있도록 합니다.

작동 방식

CUDA API 호출을 AMD의 HIP(Heterogeneous-compute Interface for Portability) 언어로 변환하는 재현 가능한 소프트웨어 스택을 제공합니다. 이 프로젝트에는 설치, 환경 검증 및 런타임 진단을 위한 자동화된 스크립트가 포함됩니다. 시스템이 잘못된 수치 결과를 조용히 생성하는 대신 오류를 보고하도록 설계된 "실패 폐쇄" 접근 방식을 강조하여 사용자가 성공적인 GPU 실행과 CPU 폴백 또는 충돌을 구분할 수 있도록 합니다.

대상 사용자

AMD 하드웨어에서 CUDA 기반 AI 소프트웨어(예: PyTorch 또는 llama.cpp)를 실행하려는 개발자, 연구자 및 고급 사용자를 위한 것입니다. 특정 워크로드가 AMD GPU에서 올바르게 실행될 수 있는지 검증해야 하고 구조화된 증거 기반 호환성 테스트 접근 방식이 필요한 사람들에게 특히 유용합니다.

주요 특징

  • AMD Radeon GPU에서 CUDA 애플리케이션을 실행하기 위한 검증되고 재현 가능한 스택을 제공합니다.
  • GPU 계산의 정확성을 보장하기 위한 엄격한 수치 검증 도구를 포함합니다.
  • PyTorch, LibTorch 및 llama.cpp와 같은 주요 AI 프레임워크와 도구를 지원합니다.
  • 조용한 데이터 손상을 방지하기 위한 엄격한 "실패 폐쇄" 정책을 구현합니다.
  • cuDNN-to-MIOpen 브리징 및 CUDA Graph 지원과 같은 고급 기능을 위한 실험적 경로를 제공합니다.

관련

  • 프로젝트
    flagos-ai/awesome-LLM-driven-kernel-generation

    A curated list of papers, datasets, and tools exploring how large language models and agentic systems can automate the generation and optimization of high-performance computing kernels, organized by research stream and technique.

  • 프로젝트
    mattn/go-tflite

    go-tflite는 TensorFlow Lite C API를 위한 Go 바인딩으로, Go 프로그램에서 *.tflite* 모델을 로드하고 추론을 실행하며, XNNPACK이나 Edge-TPU와 같은 하드웨어 델리게이트를 선택적으로 사용할 수 있게 합니다. 이 프로젝트는 주요 플랫폼을 위한 사전 빌드된 TensorFlow Lite 라이브러리, 명확한 빌드 지침 및 Binder 노트북 데모를 제공합니다.

  • 프로젝트
    mfoud444/ollamafreeapi

    OllamaFreeAPI는 간단한 `chat` 및 `stream_chat` 호출을 통해 여러 오픈소스 LLM(LLaMA, Mistral, DeepSeek, Gemma 기반 모델 등)에 무료로, 가입 없이 액세스할 수 있는 Python 클라이언트입니다. 커뮤니티 운영 API 엔드포인트 집합을 추상화하여 모델 목록, 정보 조회, 기본 로드 밸런싱을 제공합니다. 빠른 실험이나 학습에 이상적이지만, 자원봉사자가 호스팅하는 서버의 신뢰성에 의존합니다.

  • 프로젝트
    pacoxu/AI-Infra

    AI-Infra provides a visual landscape and organized learning path for AI infrastructure engineers, focusing on Kubernetes and cloud-native environments. It guides users through essential components and advanced topics, with links to detailed documentation and community resources.