HyperFlow H3 Flash: 圧縮版MiniMax-H3動画・音声生成モデル

概要

HyperFlow H3 Flashは、MiniMax-H3動画・音声生成モデルの高性能な圧縮バージョンです。元の約31BパラメータのTransformerを約14Bパラメータに削減することで、分類器フリーガイダンス（CFG）なしで4〜8ステップでの効率的な推論を実現しています。テキストから動画、画像から動画、および参照ガイド付きの生成をサポートし、32 kHzステレオ音声と同期した生成が可能です。

パフォーマンスとハードウェア要件

このモデルは、コンシューマー向けRTX GPUとデータセンター向けハードウェアの両方に最適化されています。パフォーマンスは、選択したランタイムと利用可能なシステムメモリによって異なります。

• GGUFランタイム: 16 GB〜64 GBのシステムRAMを搭載したコンシューマーPCに推奨されます。ComfyUI、Unsloth Studio、およびstable-diffusion.cppと互換性があります。Q4_K_M量子化には約9.1 GBのVRAMが必要です。
• INT8ランタイム: データセンター向けGPU（H100/H200/B200）またはハイエンドRTX GPU（24 GB以上のVRAM）向けに設計されています。このランタイムは、低ランク分解を伴うW8A8 INT8量子化を利用し、大量のシステムRAM（テキストエンコーダーの精度に応じて69 GB〜91 GB）を必要とします。

4基のBlackwell GPUを使用すると、モデルはリアルタイム推論を実現できます。単一のRTX 5090では、INT8ランタイムを使用して5.2秒のクリップを約92秒で生成可能です。

アーキテクチャと最適化

HyperFlow H3 Flashは、主に3つのアーキテクチャ上の変更を通じてフットプリントの削減を実現しています。

1. 構造的プルーニング: 特定のTransformerブロックを削除し、線形層を低ランク分解バージョンに置き換えることで、パラメータ数を13.7B〜13.9Bに削減しました。
2. 回転W8A8 INT8量子化: 180個の線形層を、精度を維持するためにブロック対角アダマール回転を使用して量子化しています。
3. Two-Time (t, r) コンディショニング: モデルはデュアルコンディショニングアプローチを採用しており、各トークンが現在のノイズレベル（t）とステップの終点（r）を受け取ることで、わずか4ステップで高品質な生成を可能にしています。

デプロイと統合

ユーザーは主に2つの方法でモデルをデプロイできます。

• ComfyUI: プロジェクトは、テキストから動画（t2va）、画像から動画（fl2va）、参照ガイド付き（ref2va）ワークフロー用のカスタムノードとテンプレートを提供しています。RAMが32 GB以下のシステムでは、ページキャッシュからウェイトをストリーミングするために --fast-disk フラグを使用することが推奨されます。
• Python CLI: hyperflow-h3-flash パッケージは、torchrun を使用したマルチGPU実行をサポートしています。Ulyssesコンテキスト並列処理を実装してシーケンスをGPU間で分割し、並列VAEタイルデコードを実行することで、単一GPU出力とのビット単位の整合性を維持します。

コミュニティの知見

ユーザーからはローカルでの動画生成における有用性が指摘されていますが、一方でさまざまな量子化レベル間の詳細な比較ベンチマークに関心を示す声もあります。ComfyUIが主要な統合先ですが、プロジェクトは llama.cpp に似た、より合理化されたターミナルベースのワークフローを求めるユーザー向けにCLIも提供しています。