门控循环单元神网络变体性能研究.pdfVIP

门控变体：门控循环单元（GRU）神经网络

Rahul

Dey

和

Fathi

M.

Salem电路、系

统与神经网络（CSANN）电气与计算机工

程系密歇根州立大学密歇根州伊东兰辛市

48824-1226deyrahul@msu.edu||

salemf@msu.edu

–

本文评估了三种门控循环单元（GRU）在循环神经网络从给定的评论段落中进行分类的表现。

（RNN）中的变体，通过减少更重置门的参数。我们在

MNIST和IMDB数据集上评估了这三个变体的GRU模型，并展

示了这些GRU‑RNN变体模型在减少计算成本的同时，性能与II.

背景：RNN、LSTM

和

GRU

原始GRU

RNN模型相当。原则上，RNN

更适合处理序列数据之间的关为了捕捉

系。简单的RNN具有如下的递归隐藏状态。