基于Transformer架构的扩散模型

文章预览

Scalable Diffusion Models with Transformers 本文介绍一篇发表于2023年国际计算机视觉大会（ICCV）的研究论文，该论文提出了一种基于Transformer架构的扩散模型，称为Diffusion Transformers (DiTs)。 通过用Transformer替代传统的U-Net架构，训练了一种作用于潜在图像块的扩散模型。 DiTs在大规模图像生成任务中展现出卓越的性能，成功实现了在ImageNet 256x256和512x512图像生成任务中的性能突破，表明了Transformer在扩散模型中的巨大潜力。 原文：W. Peebles and S. Xie, "Scalable Diffusion Models with Transformers," 2023 IEEE/CVF International Conference on Computer Vision (ICCV), Paris, France, 2023, pp. 4172-4182, doi: 10.1109/ICCV51070.2023.00387. Introduction 近年来，基于大规模数据集的深度学习模型训练显著推动了图像生成和处理领域的发展。特别是Transformer架构，凭借其在自然语言处理和高层次视觉任务中的成功，被迅 ………………………………