Transformer到底解决什么问题？

文章预览

阿里妹导读 本文希望围绕“Transformer到底是解决什么问题的”这个角度，阐述NLP发展以来遇到的关键问题和解法，通过这些问题引出Transformer实现原理，帮助初学者理解。 近期小组内发起AI技术的学习分享，单看 Transformer的相关资料太“干”了，很难较快的理解其中的设计思路，本文希望围绕“Transformer到底是解决什么问题的”这个角度，阐述NLP发展以来遇到的关键问题和解法，通过这些问题引出Transformer实现原理，帮助初学者理解。 一、人工智能的兴起 1950 年，计算机科学之父阿兰・图灵（Alan Turing）发表了一篇划时代的论文《计算机机械与智能》，文中预言了创造出具有真正智能的机器的可能性。由于注意到 “智能” 这一概念难以确切定义，他提出了一个模仿实验，有a、b、c 三个玩家，让c来根据a b 的回答猜测a、b的性别。a的工作是来迷惑c 让 ………………………………