十分钟理解Transformer

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 来源｜知乎—Jason  地址｜https://zhuanlan.zhihu.com/p/82312421 Transformer是一个利用注意力机制来提高模型训练速度的模型。关于注意力机制可以参看这篇文章(https://zhuanlan.zhihu.com/p/52119092)，trasnformer可以说是完全基于自注意力机制的一个深度学习模型，因为它适用于并行化计算，和它本身模型的复杂程度导致它在精度和性能上都要高于之前流行的RNN循环神经网络。   那什么是transformer呢？ 你可以简单理解为它是一个黑盒子，当我们在做文本翻译任务是，我输入进去一个中文，经过这个黑盒子之后，输出来翻译过后的英文。   那么在这个黑盒子里面都有什么呢？ 里面主要有两部分组成：Encoder 和 Decoder 当我输入一个文本的时候，该文本数据会先经过一个叫Encoders的模块，对 ………………………………