高效扩散模型综述

文章预览

摘要 扩散模型（Diffusion Models, DMs）已成为强大的生成模型，在图像、视频、音频等内容生成任务中展现出卓越性能，并具有 变革数字内容创作 的潜力。然而，这些能力伴随着 高昂的计算资源消耗 和 较长的生成时间 ，这凸显了开发 高效扩散模型 的必要性，以推动其实用化部署。 在本综述中，我们对 高效扩散模型的研究进展 进行了系统性和全面性的回顾。我们基于现有研究，提出了一种 三大类别的分类体系 ，分别涵盖 算法级优化、系统级优化以及框架级优化 ，以梳理不同层面上相互关联的高效扩散技术： 算法级优化 （Algorithm-Level Efficiency）：包括加速采样（如 DDIM、DPM-Solver）、自适应步长方法、潜空间扩散（LDMs）、知识蒸馏等。 系统级优化 （System-Level Efficiency）：涉及模型架构改进（轻量级 U-Net 变体、基于 Transformer 的优化）、并行计算 ………………………………