Tiktok提出TiTok,仅用32个Token进行训练，512分辨率图像生成速度比DiT-XL/2快了410倍！

文章预览

Tiktok提出TiTok的项目，可以大幅提高图像的生成和模型训练速度。512×512分辨率图像生成速度比DiT-XL/2快了 410 倍，训练速度上,使用32个符号的TiTok-L-32比使用256个符号提速4.5倍。因此，它可以显著加快采样过程的速度。 传统方法通常把图像压缩成一个二维的表示,但TiTok把图像压缩成一个一维的离散序列。尽管只用了很少的符号,例如32个,但TiTok仍然能很好地重建原始图像,生成高质量的新图像。 相关链接 论文地址：https://arxiv.org/pdf/2406.07550 代码：https://yucornetto.github.io/projects/titok.html（即将推出） 论文阅读 一幅图像价值 32 个用于重建和生成的标记 亮点 我们引入了 TiTok，一种新颖的一维图像标记框架，它打破了二维标记方法中存在的网格限制，从而带来了更加灵活和紧凑的图像潜在表示。 所提出的 TiTok 可以将256 × 256 的图像标记为少至32 个离散标 ………………………………