Mamba 来袭！Transformer 最强竞争者！

文章预览

来源：机器之心 本文介绍了 Mamba 这一颇具潜力的新架构。它是结构化的状态空间序列模型，可高效捕获序列数据依赖关系，其建模能力比肩 Transformer 且具线性可扩展性。文中还阐述了其原理、相关技术及应用，同时也提及了它面临的挑战与机遇。 深度学习架构有很多，但近些年最成功的莫过于 Transformer，其已经在多个应用领域确立了自己的主导地位。 如此成功的一大关键推动力是注意力机制，这能让基于 Transformer 的模型关注与输入序列相关的部分，实现更好的上下文理解。但是，注意力机制的缺点是计算开销大，会随输入规模而二次增长，也因此就难以处理非常长的文本。 好在前段时间诞生了一种颇具潜力的新架构：结构化的状态空间序列模型（SSM）。该架构能高效地捕获序列数据中的复杂依赖关系，并由此成为 Transformer 的一大强劲对手。 ………………………………