基于TensorFlow循环神网络RNN及其变体实现语言模型.pdfVIP

#演示内容：利用tensorflow实现的循环神经网络RNN（本程序使用了LSTM）来做语言模型，并输出其困惑度。#语言模型主要

是根据一段给定的文本来预测下一个词最有可能。困惑度用于评价语言模型。困惑度越小，则模型的性能越好。

导入tensorflow作为tf

#reader模块用于数据集，以及做训练集、验证集和测试集的切分等。如果无法导入reader模块，也可以从网上reader.py，加入到同级目录即

可，地址：.com/tensorflow/models/blob/master/tutorials/rnn/ptb/reader.py

导入器

导入numpy作为np

_

ATAPATH=data#data目录中应该预先存放本程序中要用到的语料，即PTB(PennTreebankDataset)数据集，也就是宾州树库数据集。PTB数据集

D

是语言模型研究常用的数据集。其地址在TomasMikolov的主页：。