HELPMEEADICE/TE-Speed-MiniMaxH3-OSS

해결하는 문제

이 프로젝트는 ComfyUI 내에서 MiniMax H3 모델의 추론 시간을 단축하여, 이미지나 동영상 품질을 크게 훼손하지 않고 최대 45%의 속도 향상을 달성합니다.

작동 방식

이 플러그인은 커스텀 훅을 사용하여 50층의 DiT(Diffusion Transformer) 블록 루프를 가로챕니다. 두 가지 유형의 단계를 구분합니다:

• 풀 스텝: 모델은 모든 블록을 처리하고 "잔차" (전체 출력과 부분적인 "워밍업" 출력의 차이)를 저장합니다.
• 캐시 스텝: 단계 간의 시그마 차이가 작고 특정 윈도우 내에 있을 경우, 모델은 워밍업 블록만 다시 계산하고 이전에 저장된 잔차를 더해 드리프트를 보정합니다.

오차 누적이 발생하지 않도록 시스템은 연속 캐시 스텝의 최대 수(mcs)를 제한하며, 모든 샘플링 라운드의 첫 번째 스텝은 항상 풀 스텝임을 보장합니다.

대상 사용자

MiniMax H3 모델을 ComfyUI에서 사용하고, 품질과 속도의 균형을 제어하면서 콘텐츠 생성을 더 빠르게 원하는 사용자.

주요 특징

• 매우 빠른 속도 향상: 일반 워크플로우(예: 30단계, 8초 영상)에서 최대 45%의 가속을 제공합니다.
• 유연한 제어: 캐시 윈도우(시작/종료 퍼센트), 시그마 차이 임계값, 캐시 깊이를 조정하여 안정성과 속도의 균형을 조절할 수 있습니다.
• 메모리 관리: 캐시된 잔차를 CPU로 이동하여 VRAM을 절약할 수 있습니다.
• 간편한 통합: ComfyUI 모델 파일을 최소한의 변경으로 수정할 수 있는 패치 스크립트를 포함합니다.