shallowdream204/BitDance

解决的问题

BitDance 解决了视觉生成中离散自回归 (AR) 模型常见的瓶颈，特别是 Tokenizer 重建效果不佳、从庞大词汇表中采样的困难，以及逐个 Token 预测导致的生成速度缓慢问题。

运作原理

BitDance 使用仅解码器 (decoder-only) 架构，结合了三项核心创新：

1. 大词汇量二进制 Tokenizer：一种使用二进制 Token 表示视觉数据的 Tokenizer，旨在提高重建质量。
2. 二进制扩散头 (Binary Diffusion Head)：一种专用头部，可在大型离散空间内实现高效采样。
3. Next-Patch Diffusion 范式：此方法不再一次预测一个 Token，而是允许模型并行预测多个视觉 Token（每步最多 64 个），从而显著加速生成过程。

适用对象

专为从事多模态生成模型研究的开发人员与研究人员设计，特别是那些追求高分辨率、照片级真实感图像生成，且需要比标准自回归模型更快推理速度的用户。

特点

• 高速：与标准的下一个 Token 预测 AR 模型相比，速度提升超过 30 倍。
• 并行预测：单步即可预测多达 64 个视觉 Token。
• 可扩展架构：一个开源基础模型，拥有 14B 参数，并在大规模多模态 Token 上进行训练。
• 高分辨率：支持生成高达 1024px 的照片级真实感图像。