深度学习笔记 | 第13讲：word2vec词向量

文章预览

大家好！又到了每周一狗熊会的深度学习时间了。在上一讲中， 小编将关注重点首次切到了自然语言处理领域。我们介绍了自然语言处理领域的基本知识体系，对 one-hot 和词嵌入这两种基本的词汇表征方法进行了详细的介绍，对词嵌入代表方法词向量进行了阐述，并以 SVD 词向量模型进行了演示。本节小编将继续和大家一起学习基于神经网络模型的词向量表征方法，其中的代表模型就是著名的 word2vec。 1 大名鼎鼎的word2vec     从深度学习的角度看，假设我们将 NLP 的语言模型看作是一个监督学习问题：即给定上下文词 X，输出中间词 Y，或者给定中间词 X，输出上下文词 Y。基于输入 X 和输出 Y 之间的映射便是语言模型。这样的一个语言模型的目的便是检查 X 和 Y 放在一 ………………………………