何凯明入职 MIT，首次带队提出Diffusion Loss，扩散模型思想提升生成速度和效果 ！

文章预览

以下 文 章来源于微信公众号：AI视界引擎 作者：AI引擎 链接：https://mp.weixin.qq.com/s/V4QeND3bxVJ_V4UsneIDYA 本文仅用于学术分享，如有侵权，请联系 后 台作删文处理 导读 在图像生成领域中，作 者观察到向量量化标记并不是自回归建模的必要条件，并提出通过在连续值域上，操作的扩散过程来对每个标记的概率分布，进行建模。改进后的图像生成器在生成速度与效果上，都取得了巨大的提升。 传统观点认为，用于图像生成的自回归模型通常伴随着向量量化标记。作者观察到，尽管离散值空间可以促进表示分类分布，但这并非自回归建模的必要条件。 在这项工作中，作者提出使用扩散过程来建模每个标记的概率分布，这使得作者能够在连续值空间中应用自回归模型。作者不是使用分类交叉熵损失，而是定义了一个扩散损失函数来建模每个标记的概率。 ………………………………