Speedstu/CUDA-for-AMD-Windows
Run CUDA-targeted Windows applications on AMD GPUs with ZLUDA + ROCm/HIP.
解决的问题
该项目使用户能够在配备AMD Radeon GPU的Windows系统上运行面向CUDA的应用程序。它通过利用ZLUDA和AMD ROCm/HIP栈，弥合了NVIDIA专有CUDA生态系统与AMD硬件之间的差距，使开发者和研究人员无需NVIDIA GPU即可在AMD硬件上执行AI工作负载。
工作原理
它提供了一个可复现的软件栈，将CUDA API调用转换为AMD的HIP（异构计算接口可移植性）语言。该项目包含用于安装、环境验证和运行时诊断的自动化脚本。它强调“故障关闭”方法，即系统设计为报告错误，而不是静默产生不正确的数值结果，确保用户能够区分成功的GPU执行与CPU回退或崩溃。
适用对象
适用于希望在AMD硬件上运行基于CUDA的AI软件（如PyTorch或llama.cpp）的开发者、研究人员和高级用户。对于那些需要验证其特定工作负载能否在AMD GPU上正确运行，并且需要结构化、基于证据的兼容性测试方法的人来说，尤其有用。
亮点
- 提供经过验证的、可复现的栈，用于在AMD Radeon GPU上运行CUDA应用程序。
- 包含严格的数值验证工具，确保GPU计算准确。
- 支持主要AI框架和工具，如PyTorch、LibTorch和llama.cpp。
- 实施严格的“故障关闭”策略，防止静默数据损坏。
- 为高级功能（如cuDNN到MIOpen桥接和CUDA Graph支持）提供实验性路径。
相关
- 项目
flagos-ai/awesome-LLM-driven-kernel-generationA curated list of papers, datasets, and tools exploring how large language models and agentic systems can automate the generation and optimization of high-performance computing kernels, organized by research stream and technique.
- 项目
mattn/go-tflitego-tflite 是 TensorFlow Lite C API 的 Go 语言绑定，使 Go 程序能够加载 *.tflite* 模型、运行推理，并可选择使用 XNNPACK 或 Edge-TPU 等硬件委托。该项目为主要平台提供预编译的 TensorFlow Lite 库、清晰的构建说明以及 Binder 笔记本演示。
- 项目
mfoud444/ollamafreeapiOllamaFreeAPI 是一个 Python 客户端，通过简单的 `chat` 和 `stream_chat` 调用，免费且无需注册即可访问多个开源 LLM（LLaMA、Mistral、DeepSeek、Gemma 等模型）。它抽象了一组社区运行的 API 端点，提供模型列表、信息查询和基本负载均衡。适合快速实验或学习，但依赖志愿者托管服务器的可靠性。
- 项目
pacoxu/AI-InfraAI-Infra provides a visual landscape and organized learning path for AI infrastructure engineers, focusing on Kubernetes and cloud-native environments. It guides users through essential components and advanced topics, with links to detailed documentation and community resources.