2025神经网络与深度学习序列生成模型.pptx

序列生成模型《神经网络与深度学习》2025

序列数据在深度学习的应用中，有很多数据是以序列的形式存在，比如声音、语言、视频、DNA序列或者其它的时序数据等。

序列数据的潜在规律以自然语言为例，后一个句子在人脑的语义整合时需要更多的处理时间，更不符合自然语言规则。规则是什么？

语言模型自然语言理解→一个句子的可能性/合理性！在报那猫告做只那只猫在作报告！那个人在作报告！一切都是概率!

序列概率模型?

序列概率模型?

序列概率模型?

序列概率模型?

自回归生成模型在这种序列模型方式中，每一步都需要将前面的输出作为当前步的输入，是一种自回归（autoregressive）的方式。自回归生成模型（