分布匹配蒸馏：扩散模型的单步生成优化方法研究

文章预览

扩散模型在生成高质量图像领域具有显著优势，但其迭代去噪过程导致计算开销较大。分布匹配蒸馏（Distribution Matching Distillation，DMD）通过将多步扩散过程精简为单步生成器来解决这一问题。该方法结合分布匹配损失函数和对抗生成网络损失，实现从噪声图像到真实图像的高效映射，为快速图像生成应用提供了新的技术路径。 分布匹配机制 与传统扩散模型不同，单步生成器并不直接学习完整的数据分布，而是通过强制对齐的方式逼近目标分布。这种方法摒弃了逐步近似的过程，直接建立噪声样本到目标分布的映射关系。 在此过程中，蒸馏机制起到关键作用。预训练模型作为教师网络，提供目标分布的高精度中间表征。 DMD 技术实现流程 阶段 0：系统初始化 单步生成器基于预训练扩散 unet 进行初始化，时间步设定为 T-1； real_unet 作为固定权重的教 ………………………………