专栏名称: 人工智能学习指南
欢迎来到我的频道,我会在这里不定期分享关于人工智能的干货知识。希望可以和大家共同学习进步。
今天看啥  ›  专栏  ›  人工智能学习指南

通透!第一次看到有人这样图解Transformer 解码器 !

人工智能学习指南  · 公众号  ·  · 2024-09-24 08:18
    

文章预览

前两天看到一位国外博主发的 图解Transformer编码器, 看完非常有启发,所以分享给大家一起学习。 这种形式可以让大家可以更直观的理解相关概念! (前提是大家 需 要 对 Transforme r基础概念有一定的理解 ) 大家要想系统性了解  Transformer  的可以看看这篇文章 点击图片即可跳转到文章界面 解码器是什么? 解码器是负责将编码后的输入和之前生成的标记转换为上下文感知输出的“大脑”。 想象一下,它就像是一位艺术家,根据草图绘制出最终的画面。 第一步 - 处理目标序列 1.1 目标序列嵌入 解码器首先会将需要处理的序列进行嵌入,将原始数据转换成它能够理解的格式。 1.2 位置编码 由于Transformer不像旧模型那样依赖序列顺序,因此它使用位置编码。 这相当于在“是什么”的基础上增加了“在哪里”的信息,对于全面理解序列上下文至关重 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览