何必DiT！字节首次拿着自回归，单GPU一分钟生成5秒720p视频

啪！~~~

一篇入围顶会NeurIPS ’ 25 Oral的论文，狠狠反击了一把DiT（Diffusion Transformer）。

毕竟自打 DiT 问世以来，视频生成这块，算是被它给稳稳拿捏住了。

但站稳了脚跟，并不意味着没有问题，因为它的计算复杂度高，在资源消耗和速度上有着诸多挑战。

而这篇来自字节跳动商业化技术团队的论文，则是提出了一个名叫InfinityStar的方法，一举兼得了视频生成的质量和效率，为视频生成方法探索更多可能的路径。

像下面这些有趣的动画片片段，便是由 InfinityStar 亲手打造：

整体来看 InfinityStar 的亮点，我们可以总结为如下三点：

是首个在 VBench 上超越扩散模型的离散自回归视频生成器；

视频生成不用再"慢慢熬"：从百步去噪到自回归，告别延迟；

任务通吃：文生图、文生视频、图生视频、交互式长视频生成等。

值得一提的是，InfinityStar 目前的论文、代码、体验地址均已经发布（链接见文末），接下来我们就进一步实测一波 ~

实测给 DiT 上了一课的 AI 视频生成

首先我们来简单了解一下 InfinityStar 的体验方法。

它的入口就在Discord社区里面，大家登录账号之后，点击下面这个链接即可跳转。

http://opensource.bytedance.com/discord/invite

在左侧导航栏的下方面，便有 InfinityStar 文生视频、图生视频等各种功能的选项。像刚才展示的视频，便是在" i2v-generate-horizontal-1 "中实现：

接下来，我们来一个 InfinityStar 的文生图和图生视频的联动玩法。

首先来到" infinity-8b-generate "，输入下图中的提示词来生成几张图片：

A hyper-detailed, ultra-realistic, cinematic portrait of a fluffy white Ragdoll cat with striking sapphire-blue eyes and long black eyelashes. The cat ’ s expression is calm, poised, and intensely self-assured — its gaze direct, steady, and dignified, conveying quiet confidence and elegant composure ……

挑选一张比较满意的图像之后，我们再把图片"喂"到" i2v-generate-horizontal-1 "中，配上下面的提示词来生成一段视频：

The cat opened its mouth and made a sound, then licked its nose with its tongue.

通过类似的方法，你也可以快速生成各种风格、影视级的镜头：

包括各种运动场景中，人物的复杂动作也是能 hold 住：

另外，正如我们刚才提到的，作为原生自回归模型，InfinityStar 还支持交互式长视频生成。

我们只需要先给一段 5s 的视频，然后 InfinityStar 能够接受新的提示词，根据参考视频和新的提示词继续往下生成：

为什么能比 DiT 快这么多？

InfinityStar 的核心架构，是一个名叫时空金字塔建模的方法，这正是它能把图像、视频任务统一起来，并且比主流扩散模型快一个数量级的关键所在。

整体来看，InfinityStar 借鉴了其前作（如 VAR 和 Infinity）在空间维度上的下一尺度预测思想，并将其巧妙地扩展到时空维度；如此一来便弥补了传统方法往往难以在单一模型中同时处理静态图像和动态视频的问题。

其核心设计是将一个视频分解为两个部分。

1、首帧（外观信息）：

视频的第一帧被视为一个独立的图像，采用与 Infinity 模型一致的图像金字塔进行由粗到精的建模。这一步专门负责捕捉视频的静态外观信息，如场景、物体和风格。

2、后续片段（动态信息）：

首帧之后的视频内容被切分为若干个连续的视频片段（Clips）。这些片段金字塔在空间维度之外，额外引入了时间维度，专门负责捕捉视频的动态变化，如运动轨迹和镜头变换。

通过这种"首帧 + 视频片段"的分解策略，InfinityStar 成功地将静态外观和动态信息解耦。所有这些金字塔内部（尺度之间）和金字塔之间（片段之间）的依赖关系，都由一个强大的时空自回归 Transformer 进行建模。

最终，无论是生成图像、生成视频还是图生视频，所有任务都被统一为"预测下一个尺度 / 下一个片段"的自回归问题，实现了架构的高度统一。

除了整体框架之外，InfinityStar 还有两个关键技术。

首先是高效的视觉分词器。

为了让 Transformer 能够处理视觉信息，首先需要将图像和视频翻译成离散的 Token。InfinityStar 为此训练了一个基于多尺度残差量化的视觉分词器，并提出了两项关键技术来克服训练难题：

知识继承 ( Knowledge Inheritance )

训练一个离散的视觉分词器（Tokenizer）通常非常耗时。研究人员发现，相比于从零开始训练，继承一个已预训练的连续视觉分词器（如 Video VAE）的结构和权重，能显著加快离散分词器的收敛速度，使其更快达到高保真度的重建水平。

  2. 随机量化器深度 ( Stochastic Quantizer Depth )

在视频金字塔中，信息分布存在严重的"不均衡"问题：大部分细节信息集中在最后几个精细尺度上，导致 token 数量相差几十甚至上百倍。这会妨碍 Transformer 的学习，使其过度依赖后续尺度，而忽略了决定全局语义的早期尺度。

为此，InfinityStar 引入了一种名为随机量化器深度的正则化技术。在训练时，随机丢弃（Discard）后面精细尺度的 Token，迫使模型在仅有前面粗糙尺度 Token 的情况下也能重建出有意义的信息。这使得信息在不同尺度上分布更均衡，显著提升了模型的学习效率和最终的生成质量。

其次是优化的时空自回归 Transformer。

为了应对视频生成带来的新挑战（如长上下文、时空依赖），InfinityStar 对自回归 Transformer 本身也进行了三项关键改进：

语义尺度重复 ( Semantic Scale Repetition )   研究人员观察到，金字塔中靠前的几个尺度（语义尺度）控制着视频的全局信息，如整体布局和运动趋势。为了强化这一点，InfinityStar 在预测时将这些语义尺度重复预测 N 次，允许模型对视频的全局语义信息进行"反复修正"。这一简单而有效的技巧，极大地增强了生成视频在结构上的一致性和运动的流畅性。

时空稀疏注意力 ( Spacetime Sparse Attention )  视频生成，特别是长视频，意味着极长的 Token 序列，这对注意力机制的计算和显存是巨大的考验。InfinityStar 设计了一种高效的时空稀疏注意力，它只关注必要的上下文信息（如前一片段的最后一个尺度），从而在保持时间一致性的同时，大大降低了注意力的计算复杂度，使得高质量、长上下文的视频生成成为可能。

时空 RoPE 位置编码 ( Spacetime RoPE )  为了让模型精确感知 Token 在复杂时空金字塔中的位置，InfinityStar 引入了增强版的 RoPE 位置编码，它同时编码尺度、时间、高度和宽度信息，为 Transformer 提供了精确的时空坐标感。

总结来看，InfinityStar 之所以能做到比 DiT 快上一个数量级，关键在于 DiT 需要 20 – 100 步去噪迭代，而 InfinityStar 是纯自回归"一条过"生成；并且离散 token+ 粗到精预测机制，大幅减少 inference step 数。

在如此方法之下，实验结果显示，在文生图（T2I）任务上，InfinityStar 在 GenEval 和 DPG 两项基准上取得了优异的表现，尤其在位置、物体关系上展现出了明显的优势。

在文生视频（T2V）任务上，InfinityStar 在 VBench 基准上表现优秀，不仅显著超越了先前所有的自回归模型，甚至取得了比 CogVideoX、HunyuanVideo 等基于 DiT 的方法更好的成绩。

在和 HunyuanVideo 的人类偏好评估中，InfinityStar-8B 也取得了比 HunyuanVideo-13B 更好的效果，尤其是在指令遵循方面展现出了显著的优势。

在视频生成的效率方面，InfinityStar 的生成速度比同尺寸的基于 DiT 的方法（如 HunyuanVideo、Wan-Video）快一个数量级，在单张 GPU 上生成一个 5s 720p 的视频仅需不到 1 分钟。

总而言之，字节的这篇论文证明了离散自回归模型不仅能快，还能做到好，更是打破了只有扩散才能高清的迷思。

论文链接：

https://arxiv.org/pdf/2511.04675

代码链接：

https://github.com/FoundationVision/InfinityStar

申请体验：

http://opensource.bytedance.com/discord/invite

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！

—  完  —

� � 点亮星标 � �

科技前沿进展每日见