HyperFlow H3 Flash: 압축된 MiniMax-H3 비디오 및 오디오 생성

개요

HyperFlow H3 Flash는 MiniMax-H3 비디오 및 오디오 생성 모델의 고성능 압축 버전입니다. 기존 약 31B 파라미터의 트랜스포머를 약 14B 파라미터로 줄임으로써, 이 모델은 CFG(classifier-free guidance) 없이 4~8단계 내에서 효율적인 추론을 달성합니다. 텍스트-비디오, 이미지-비디오, 그리고 동기화된 32 kHz 스테레오 오디오를 포함한 참조 기반 생성을 지원합니다.

성능 및 하드웨어 요구 사항

이 모델은 소비자용 RTX GPU와 데이터 센터 하드웨어 모두에 최적화되어 있습니다. 성능은 선택한 런타임과 사용 가능한 시스템 메모리에 따라 다릅니다:

  • GGUF 런타임: 16 GB에서 64 GB의 시스템 RAM을 갖춘 소비자용 PC에 권장됩니다. ComfyUI, Unsloth Studio 및 stable-diffusion.cpp와 호환됩니다. Q4_K_M 양자화에는 약 9.1 GB의 VRAM이 필요합니다.
  • INT8 런타임: 데이터 센터 GPU(H100/H200/B200) 또는 고사양 RTX GPU(24 GB+ VRAM)용으로 설계되었습니다. 이 런타임은 저랭크 분해(low-rank factorization)를 포함한 W8A8 INT8 양자화를 사용하며, 상당한 시스템 RAM(텍스트 인코더 정밀도에 따라 69 GB~91 GB)이 필요합니다.

4개의 Blackwell GPU에서 이 모델은 실시간 추론을 달성할 수 있습니다. 단일 RTX 5090에서는 INT8 런타임을 사용하여 5.2초 분량의 클립을 약 92초 만에 생성할 수 있습니다.

아키텍처 및 최적화

HyperFlow H3 Flash는 세 가지 주요 아키텍처 수정을 통해 모델 크기를 줄였습니다:

  1. 구조적 가지치기(Structural Pruning): 선택된 트랜스포머 블록을 제거하고 선형 레이어를 저랭크 분해 버전으로 교체하여 파라미터 수를 13.7B~13.9B로 줄였습니다.
  2. 회전된 W8A8 INT8 양자화: 180개의 선형 레이어는 정밀도를 유지하기 위해 블록 대각선 Hadamard 회전을 사용하여 양자화되었습니다.
  3. 이중 시간 (t, r) 조건화: 이 모델은 각 토큰이 현재 노이즈 수준(t)과 단계 끝점(r)을 수신하는 이중 조건화 방식을 사용하여 4단계 만으로도 고품질 생성이 가능합니다.

배포 및 통합

사용자는 두 가지 주요 경로를 통해 모델을 배포할 수 있습니다:

  • ComfyUI: 이 프로젝트는 텍스트-비디오(t2va), 이미지-비디오(fl2va) 및 참조 기반(ref2va) 워크플로우를 위한 커스텀 노드와 템플릿을 제공합니다. RAM이 32 GB 이하인 시스템에서는 페이지 캐시에서 가중치를 스트리밍하기 위해 --fast-disk 플래그를 사용하는 것이 좋습니다.
  • Python CLI: hyperflow-h3-flash 패키지는 torchrun을 사용하여 다중 GPU 실행을 지원합니다. 이 패키지는 Ulysses 컨텍스트 병렬 처리를 구현하여 GPU 간에 시퀀스를 분할하고, 병렬 VAE 타일 디코딩을 수행하여 단일 GPU 출력과 비트 단위 일관성을 유지합니다.

커뮤니티 인사이트

사용자들은 로컬 비디오 생성을 위한 이 모델의 유용성에 주목하고 있지만, 일부는 다양한 양자화 수준 간의 더 자세한 비교 벤치마크에 관심을 표했습니다. ComfyUI가 주요 통합 방식이지만, 이 프로젝트는 llama.cpp와 유사한 더 간소화된 터미널 기반 워크플로우를 원하는 사용자를 위해 CLI도 제공합니다.

Sources