人工智能-Seq2Seq结构及原理.pptVIP

只需要找到大量的对联数据对这个模型进行训练，那么即可利用这个模型，输入上联，机器自动产生下联了。 Seq2Seq举例理解结构及原理 Encoder-Decoder框架加上Attention应该会显著提升产生下联的质量，原因还是因为它是要求严格对仗的，所以在生成下联某个字的时候，找到对应上联相应字作为生成的重点参考信息无疑是非常重要的。比如看到上联的“三”字，Attention模型使得下联产生对应字“一”的时候重点参考上联的“三”这个字，应该知道对应的应该是一个数字型汉字。加上Attention模型的示意如下图。 Seq2Seq举例理解结构及原理 加入Attention机制： Seq2Seq举例理解结构及原理 目标函数： Seq2Seq理解结构及原理 Seq2Seq解决问题的主要思路是通过深度神经网络模型（常用的是LSTM）将一个作为输入的序列映射为一个作为输出的序列，这一过程由编码（encoder）输入与解码(decoder)输出两个环节组成。 什么是什么是Seq2Seq网络 上图中，使用x={x1，x2，…，xn}代表输入的语句，y={y1, y2, …, yn}代表输出的语句，yt代表当前输出词。 即输出的yt不仅依赖之前的输出{y1, y2, …, yt?1}，还依赖输入语句x，模型再怎么变化都是在上文公式的约束之下。 Seq2Seq理解结构及原理 Seq2Seq理解