hogeheer499-commits/strix-halo-guide

何を解決するか

このプロジェクトは、AMD Strix Halo / Ryzen AI MAX+ 395 システム上でローカルの大型言語モデル（LLM）を設定・最適化するための包括的で独立した技術ガイドを提供します。Radeon 8060S GPU と統合メモリ（96GB/128GB）を活用するためのBIOS、OS、ドライバーの設定の難しさに対処します。

仕組み

ガイドは、Ubuntu 24.04、メモリ管理用の特定のカーネルパラメータ、および更新されたドライバーをインストールするための kisak Mesa PPA のインストールを含む、ステップバイステップのセットアッププロセスを提供します。Ollama や llama.cpp などのツールで Vulkan/RADV バックエンドを使用して、iGPU を活用し、CPU にフォールバックしないようにします。また、ユーザーのニーズ（例：速度 vs. 質）に応じて適切なモデルとバックエンドを選択するのに役立つ「最良の既知のプロファイル」とベンチマークのキュレートされたセットも含まれています。

対象ユーザー

• AMD Strix Halo / Ryzen AI MAX システムの所有者または評価者。
• AMD ハードウェア上でローカル AI を実行したい開発者。
• ローカル LLM デプロイのための独立した、証拠に基づいたパフォーマンスデータを求めるユーザー。

特徴

• 自動セットアップ: Linux 側の Vulkan/RADV + Ollama スタックを迅速にデプロイするための setup.sh スクリプトを含む。
• 証拠に基づくベンチマーク: すべてのパフォーマンス主張を生のログと CSV にマッピングし、Qwen や Gemma などのモデルのテストを含む。
• 容量の証明: DeepSeek V4 Flash 284B GGUF などの非常に大きなモデルを実行できる能力を示す。
• クロスOEM検証: 13 の異なるシステムからのコミュニティの結果を含み、異なるハードウェアベンダー間での移植性を保証する。
• コード化されたワークフロー: ROCm 7.2 Unsloth ルートを使用して、モデルのファインチューニングとエクスポートの検証済みルートを提供する。