Speedstu/CUDA-for-AMD-Windows
Run CUDA-targeted Windows applications on AMD GPUs with ZLUDA + ROCm/HIP.
解決する問題
このプロジェクトにより、ユーザーはAMD Radeon GPUを搭載したWindowsシステムでCUDAターゲットのアプリケーションを実行できます。ZLUDAとAMD ROCm/HIPスタックを活用して、NVIDIAの専有CUDAエコシステムとAMDのハードウェアの間のギャップを埋め、開発者や研究者がNVIDIA GPUを必要とせずにAMDハードウェアでAIワークロードを実行できるようにします。
仕組み
CUDA API呼び出しをAMDのHIP（Heterogeneous-compute Interface for Portability）言語に変換する再現可能なソフトウェアスタックを提供します。このプロジェクトには、インストール、環境検証、およびランタイム診断のための自動化スクリプトが含まれています。「フェイルクローズド」アプローチを重視しており、システムは誤った数値結果を静かに生成するのではなくエラーを報告するように設計されており、ユーザーがGPU実行の成功とCPUフォールバックやクラッシュを区別できるようにします。
対象者
AMDハードウェアでCUDAベースのAIソフトウェア（PyTorchやllama.cppなど）を実行したい開発者、研究者、およびパワーユーザー向けです。特定のワークロードがAMD GPUで正しく実行できるかを検証する必要があり、互換性テストに対する構造化された証拠ベースのアプローチを必要とする人々に特に役立ちます。
ハイライト
- AMD Radeon GPUでCUDAアプリケーションを実行するための検証済みで再現可能なスタックを提供。
- GPU計算の正確性を保証するための厳密な数値検証ツールを含む。
- PyTorch、LibTorch、llama.cppなどの主要なAIフレームワークとツールをサポート。
- 静かなデータ破損を防ぐための厳格な「フェイルクローズド」ポリシーを実装。
- cuDNNからMIOpenへのブリッジやCUDA Graphサポートなどの高度な機能のための実験的パスを提供。
関連
- プロジェクト
flagos-ai/awesome-LLM-driven-kernel-generationA curated list of papers, datasets, and tools exploring how large language models and agentic systems can automate the generation and optimization of high-performance computing kernels, organized by research stream and technique.
- プロジェクト
mattn/go-tflitego-tflite は TensorFlow Lite C API の Go 言語バインディングであり、Go プログラムから *.tflite* モデルの読み込み、推論の実行、および XNNPACK や Edge-TPU などのハードウェアデリゲートの利用を可能にします。主要プラットフォーム向けの事前ビルド済み TensorFlow Lite ライブラリ、明確なビルド手順、および Binder ノートブックのデモを提供しています。
- プロジェクト
mfoud444/ollamafreeapiOllamaFreeAPI は、シンプルな `chat` および `stream_chat` 呼び出しを介して、複数のオープンソース LLM（LLaMA、Mistral、DeepSeek、Gemma ベースのモデルなど）に無料でサインアップ不要でアクセスできる Python クライアントです。コミュニティ運営の API エンドポイントのセットを抽象化し、モデル一覧、情報検索、基本的な負荷分散を提供します。迅速な実験や学習に最適ですが、ボランティアがホストするサーバーの信頼性に依存します。
- プロジェクト
pacoxu/AI-InfraAI-Infra provides a visual landscape and organized learning path for AI infrastructure engineers, focusing on Kubernetes and cloud-native environments. It guides users through essential components and advanced topics, with links to detailed documentation and community resources.