Strix Halo Guide – AMD Ryzen AI MAX+ 395 ラップトップ向けローカルLLMセットアップ

プロジェクトの内容

Strix Halo Guideは、Ryzen AI MAX+ 395 NPUとRadeon 8060S GPU（gfx1151）を搭載したStrix Haloラップトップ/ワークステーションという特定のAMDハードウェア上で大規模言語モデル（LLM）をインストールおよびベンチマークするための、ステップバイステップのオープンソースガイドです。このリポジトリにはモデルウェイトやコンパイル済みバイナリは含まれておらず、以下を提供するのみです：

• Ubuntu 24.04インストール手順（BIOS調整、カーネルパラメータ、ドライバセットアップ）。
• 統合GPU/NPUを使用するようにOllamaサーバーとllama.cpp Vulkan/RADVバックエンドを設定するスクリプト。
• 8BパラメータのMoEモデルから284BパラメータのGGUFモデルまで、さまざまなモデルに対する再現可能なベンチマークデータ（CSVファイル、生ログ、チャート）。
• 動作するチャットインターフェースを取得するための「クイックスタート」6ステップチェックリストと、特定のユースケースに最適なモデル/バックエンドの組み合わせを説明する詳細ページ。
• 透明な証拠チェーン：すべての主要な主張は、それを生成した正確なコマンドライン、ハードウェアメタデータ、生ログファイルにリンクしています。

要するに、Strix Haloマシンを所有し、ローカルでLLMを実行したい人向けの、再現性とコミュニティ検証済みのパフォーマンス数値に焦点を当てた実用的で証拠に基づくハンドブックです。

---

対象読者

対象	利点
Strix Halo / Ryzen AI MAX+ 395の所有者	ハードウェアの統合GPU/NPUで実際に動作する、コピー＆ペースト可能なUbuntu + Vulkanセットアップを提供します。
AMDのローカルAIプラットフォームを評価する研究者や開発者	他のハードウェアと比較できる独立したベンチマークデータ（プロンプトスループット、生成スループット、電力、メモリ使用量）を提供します。
購入希望者やレビュアー	ハードウェアの適合性、電力/熱の期待値、96GB〜128GBのユニファイドメモリで実現可能なモデルを要約します。
コントリビューター	明確な貢献ガイド、再現性チェックリスト、未解決のテスト項目（例：ROCm/vLLMバグ）のリストを提供します。

---

コア機能（READMEに記載）

1. 完全なUbuntu 24.04 + カーネル構成 – BIOS UMAフレームバッファ、IOMMU、GRUBカーネルパラメータ（amdgpu.gttsize、ttm.pages_limit、amdgpu.cwsr_enable）。
2. GPU/NPU対応Ollama – 統合Radeon 8060Sが推論に使用されるように環境変数（OLLAMA_VULKAN=1、OLLAMA_IGPU_ENABLE=1、HIP_VISIBLE_DEVICES=-1）を設定。
3. llama.cpp Vulkan/RADVバックエンド – AMDのRADVドライバを使用してllama.cppをビルドおよび実行するスクリプト。サーバーなしで直接GPU推論が可能。
4. ベンチマーク証拠 – 各モデル/バックエンドの組み合わせの正確なトークン/秒（t/s）数を示すCSVファイル（headline_claims.csv、best_known_profiles.csvなど）と生ログディレクトリ。
5. モデル固有の決定ページ – 例：QWEN38_STRIX_HALO.mdは、Qwen 3.8 27Bの測定された20.42 t/s生成速度がコミュニティ報告値と異なる理由を説明。
6. クロスOEM検証 – 13の異なるシステムと10人のコミュニティコントリビューターからの結果が収集され、著者の主なBeelink GTR9 Proデータとは別に保持されます。
7. 再現性ワークフロー – setup.shがインストールを自動化しますが、READMEは手動レビュー、バージョン固定、各変更の元に戻す方法を強調しています。
8. 透明性と独立性 – アフィリエイトリンクなし。すべてのアップストリームの貢献がリストされています（UPSTREAM_CONTRIBUTIONS.md）。

---

はじめに（クイックスタート6ステップ）

1. BIOS – UMAフレームバッファを512 MiB（最小がそれなら2 GiB）に設定。意図的にデスクトップベンチマークプロファイルを使用しない限り、IOMMUは有効のままにします。
2. Ubuntu 24.04 LTSのインストール – X11はオプションのデスクトップUIにのみ必要。ヘッドレス推論は問題なく動作します。
3. メモリプロファイルカーネル引数を適用 – amdgpu.gttsize=131072 ttm.pages_limit=31457280 amdgpu.cwsr_enable=0（128 GBシステム用）。
4. Mesa/RADVドライバのインストール – kisak-mesa PPA経由。オプションでtunedパワープロファイルを有効にしてパフォーマンスを向上。
5. Ollamaのインストール – VulkanとiGPUの環境変数を設定し、モデルをプル（例：ollama run qwen3.6:35b-a3b）。
6. テストを実行 – 提供されているbench-ollama.shスクリプトがトークンスループットを測定し、CSV証拠と比較します。

リポジトリには、ステップ3〜5を自動的に実行するsetup.shスクリプトも含まれています。READMEでは実行前にスクリプトをレビューすることを推奨しています。

証拠とパフォーマンスのハイライト（2026年10月1日時点）

モデル / バックエンド	トークンスループット（t/s）	数値の意味
Qwen 3.8 27B（Q4_K_M） – Ollama API、デフォルトのMTPドラフティングあり	20.42 t/s生成（ドラフティングなし12.89 t/s）	Ollama 0.31.2で測定。50kプロンプトトークン、画像とツール使用を含む。
Qwen 3-Coder 30B-A3B（Q4_K_S） – 直接llama.cpp Vulkan	100.99 t/s（tg128）	最速の30Bクラス直接ルート。スピード優先の量子化。
DeepSeek V4 Flash 284B（UD-IQ2_XXS） – 直接GGUF	13.27 tg128	容量の証明。モデルは90.86 GBの低ビットアーティファクトとしてロード。
LFM2.5 8B-A1B（Q4_K_M）– 小型MoE – llama.cpp	170 t/s生成のみ	小型MoEモデルがこのハードウェアで100 t/sを超えることを示しています。

---

強みと制限（要約）

強み

• AMD統合AIには珍しい、非常に詳細でハードウェア固有の手順。
• 透明なベンチマークパイプライン。主要な主張はすべて生ログで裏付けられています。
• コミュニティによるクロスシステムデータは、単一のテストボックスを超えた信頼性を追加します。
• オープンソーススクリプト（setup.sh、bench-ollama.sh）により、再現が容易。

制限

• スコープはStrix Halo / Ryzen AI MAX+ 395ハードウェアに限定。他のAMDラップトップや非Ubuntu OSではそのまま動作しません。
• 一部のスクリプトは元に戻す操作で「ハードウェア上で未テスト」とマークされているため、ユーザーは手動でのLinux構成に慣れている必要があります。
• パフォーマンス数値は特定のOllama/llama.cppバージョンに依存。新しいリリースでは、新規インストールの認定ステップが必要です。

---

メンテナー

メンテナーはいくつかのアップストリームプロジェクト（例：llama.cpp PR #25643、AMDスポンサーのLemonadeサーバー）に貢献しており、それらの貢献はUPSTREAM_CONTRIBUTIONS.mdにリストされています。リポジトリはMITライセンスであり、著者はAMDの公式な承認がないことを明示しています。

結論

Strix Haloラップトップまたはワークステーションを所有し、ローカルでLLMを実行したい場合、Strix Halo Guideは、Ubuntuの新規インストールから動作するOllamaまたはllama.cpp推論サーバーまで、再現可能で証拠に基づくパスを提供し、異なるモデルとバックエンドを比較できるベンチマークデータも含まれています。これは、AIローカル推論分野における本格的で焦点を絞ったソフトウェアエンジニアリングプロジェクトです。