【HKUST博士论文】增强扩散采样与通过架构研究解读自监督学习

文章预览

神经网络在复杂的无监督任务中表现出色，包括使用扩散模型进行高质量样本生成和通过自监督学习（SSL）模型进行语义特征提取。扩散模型和自监督学习（SSL）在各自的目标上表现出色：生成高质量样本和学习表示。大量的研究工作已致力于提升扩散生成质量并深入理解自监督学习。此外，研究者们也在探索扩散与自监督学习模型之间的协同效应。然而，这些模型的复杂性带来了对其进行解读、识别瓶颈并提出设计方案以实现持续改进的挑战。 在我们的研究中，我们对扩散模型和自监督学习模型进行了深入分析，识别了现有的瓶颈。这一分析促使我们开发出一致且高效的设计，以提升扩散生成性能并改善自监督学习模型所学特征的质量。此外，我们通过利用自监督学习来引导扩散模型进行零-shot采样，研究了扩散和自监督学习模型之间的互利关 ………………………………