Flux.1震撼升级 | 「线性注意力」降低99.5%的计算量，6倍速生成8K图像，却仅需10K样本！

文章预览

打造一个有温度、有趣味、专业的全栈式AI 交流社区， 用心写好每一篇文章！ “ 虽然文生图模型已经开始走向泛滥，但是能生成超过2K分辨率的文生图模型屈指可数。 主要的原因是因为注意力层通常存在二次复杂性模拟复杂的成对令牌关系，会在高分辨率图像生成中引入大量延迟。 例如，FLUX.1-dev是一种最先进的文本到图像DiT，即使使用FlashAttention等硬件感知优化， 也需要30多分钟才能生成具有20个去噪步骤的8K分辨率图像。 为了解决上面的问题， 新加坡国立大学提出了一种线性注意力机制CLEAR，将预训练DiTs的复杂性降低到线性。 作者从对现有有效注意力机制的开始探索，并确定了对预训练DiTs成功线性化至关重要的四个关键因素：局部性、公式一致性、高阶注意力图和特征完整性。 它可以将注意力计算减少了99.5%，并将生成8K分辨率图像的速度 ………………………………