统一transformer与diffusion！Meta融合新方法剑指下一代多模态王者

文章预览

机器之心报道 编辑：陈陈 本文转自机器之心，原文链接https://mp.weixin.qq.com/s/D0sadIZkILx8VvWcsIEYFQ 本文引入了 Transfusion，这是一种可以在离散和连续数据上训练多模态模型的方法。 一般来说，多模态生成模型需要能够感知、处理和生成离散元素（如文本或代码）和连续元素（如图像、音频和视频数据）。 在离散模态领域，以预测下一个词为目标的语言模型占据主导地位，而在生成连续模态方面，扩散模型及其泛化形式则是当前最先进技术。 研究者一直试图将语言模型与扩散模型结合，一种方法是直接扩展语言模型，使其能够利用扩散模型作为一个工具，或者将一个预训练的扩散模型嫁接到语言模型上。另一种替代方案是对连续模态进行量化处理，然后在离散的 token 上训练一个标准的语言模型，这种方法虽然简化了模型架构，但也会造成信息的丢失 ………………………………