《深度学习原理及应用》课件第8章word2vec模型.pptx

下载文档

0
0
约6千字
约 31页
2025-07-30 发布于山东
举报
版权申诉
保障服务

《深度学习原理及应用》课件第8章word2vec模型.pptx

1、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。。
2、本文档由用户上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形，可联系本站下载客服投诉处理。
3、文档侵权举报电话：400-050-0827(电话支持时间：9:00-18:30)。

第8章word2vec模型在上一章中，详细探讨了NLP（自然语言处理）领域中两个核心技术：基于统计的N-gram模型与基于深度学习的NNLM（神经网络语言模型）。阐明了N-gram模型在处理单词时倾向于将它们视为孤立的单位(独热编码)，这种方法可能忽略了单词之间在某些层面上的相似性，从而在语义理解方面有所不足。这些模型主要依赖于对统计信息的聚合。为了克服这些局限性并赋予词向量丰富的语义信息，采用深度神经网络技术。利用目标词之前的词去预测目标词本身，这种方法成功地为词向量赋予了包含语义信息的能力。

NNLM模型的局限性计算量过大NNLM在词嵌入表示上取得了一定的成果，但也存在计算量过大的问题，