生成模型的流形、KL的正式严格定义

文章预览

Deep Generative Models through the Lens of the Manifold Hypothesis: A Survey and New Connections  从流形假说的角度看深度生成模型：调查与新联系 本文中，相关概念的定义和改进 摘要 近年来，人们对 深度生成模型（DGMs） 与流形假设之间的相互作用越来越感兴趣。该领域的研究着重于理解常用的DGMs在学习支持未知低维流形上的分布时成功或失败的原因，以及开发新的模型来明确考虑流形支持的数据。 这种 流形视角既清晰地解释了一些DGMs（如扩散模型和一些生成对抗网络）在样本生成（ 译者：除了生成，模型的推理一样重要 ）方面经验性地优于其他模型（如基于似然的模型，如变分自动编码器、正规化流或基于能量的模型），也为设计更高性能的DGMs提供了指导。 我们进行了 第一次通过这种视角对DGMs进行的调查， 并在此过程中做出了 两项新的贡献。 首先 ，我 ………………………………