人工智能原理第7章：字词的向量表示.pptx

人工智能原理：基于Python语言和TensorFlow张明 副教授 第七章：字词的向量表示WordEmbedding的基本概念和知识Skip-Gram模型嵌套学习可视化与评估优化实现7.1：WordEmbedding的基本概念和知识 WordEmbedding也被称为“Word2Vec”，中文翻译过来最常见的名称是“字词向量”或者“词嵌入”，通过使用WordEmbedding可以将词汇表中的单词（word）转换成实数构成的向量（vector）上。广泛应用于机器翻译、情感分析、广告推荐、搜索排行等方面。为什么要将词汇表中的单词或短语转换成向量呢？ 7.1：WordEmbedding的基本概念和知识例如：生活中，我们常会说“我把新买的猫粮喂给了猫咪，因为它饿了”，或者“我把新买的猫粮喂给了猫咪，因为它刚到货”。这两个句子具有相同的结构，但是句子中的指代词“它”所表示的内容则有所不同，第一句的“它”指代的是“猫咪”，而第二句的“它”指代的是“猫粮”，如果理解上出现了一定的偏差，就无法进行最准确的区分识别。自然语言处理在Word Embedding技术出现之前，传统的做法是将词汇表中的单词或短语转换成单独的离散的符号，例如“舢板”一词可表示为编号为Id253的特征，而“雨伞”一词可表示为编号为Id533的特征。这就是我们后面内容即将讲到的独热编码矩阵，我们将一篇文章中的每一个词汇都转换成