专栏名称: CreateAMind
ALLinCreateAMind.AGI.top , 前沿AGI技术探索,论文跟进,复现验证,落地实验。 鼓励新思想的探讨及验证等。 探索比大模型更优的智能模型。
今天看啥  ›  专栏  ›  CreateAMind

概率流常微分方程 is fast

CreateAMind  · 公众号  ·  · 2024-07-18 08:00

文章预览

The probability flow ODE is provably fast概率流 ODE 已被证明是快速的 https://arxiv.org/abs/2305.11798 摘要 我们为基于得分的生成模型的概率流常微分方程(ODE)实现(连同一个校正步骤)提供了首次多项式时间收敛保证。我们的分析是在最近为基于随机微分方程(SDE)实现(即,去噪扩散概率建模或DDPM)获得此类保证的结果之后进行的,但需要开发新的技术来研究没有压缩性的确定性动态。通过使用基于欠阻尼Langevin扩散的特别选择的校正步骤,我们获得了比以前DDPM作品更好的维度依赖性(O(√d) vs. O(d),在数据分布的平滑性假设下),突出了ODE框架的潜在优势。 1 引言 基于得分的生成模型(SGMs)[Soh+15; SE19; HJA20; DN21; Son+21a; Son+21b; VKK21]是一类包括像DALL·E 2 [Ram+22]这样的杰出图像生成系统的生成模型。它们在数据生成方面的惊人经验成功使它们成为深度学习文 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览