回声状态网络的研究进展.PDF

第 34 卷 第 2 期 北 京 科 技 大 学 学 报 Vol． 34 No． 2 2012 年 2 月 Journal of University of Science and Technology Beijing Feb． 2012 回声 状态网络 的研究进展 罗 熊1) 黎 江1) 孙增圻2) 1) ， 100083 北京科技大学计算机与通信工程学 院 北京 2) ， 100084 清华大学计算机科学与技术系智能技术与系统 国家重点实验室 北京 通信作者 ，E-mail: xluo@ ustb． edu． cn ， 摘 要 回声状态网络是近年来新兴 的一种递归神经 网络 独特而简单 的训练方式以及高精度 的训练结果 已使其成为 当前 ． ， ， 研究的热点之一 在该 网络中 引入 了储备池计算模式这一新 的神经 网络的建设方案 克服 了之前 网络模型基于梯度下 降的 ． ， ． 学习算法所难 以避免 的收敛慢和容易陷入局部极小等 问题 围绕这种新型网络结构 国内外许多学者开展了多样 的研究 本 ， ， ， 文全面深入介绍 了回声状态网络这一新兴技术 讨论 了 回声状态网络 的优缺点 并综合近年的研究现状 总结 了 回声状态网 络 的主要研究工作进展和未来 的研究方向． 关键词 回声状态网络; 储备池计算; 递归神经 网络 分类号 TP 18 Review on echo state networks L UO Xiong 1) ，LI Jiang 1) ，SUN Zeng-qi2) 1) School of Computer and Communication Engineering ，University of Science and Technology Beijing ，Beijing 100083 ，China 2) State Key Laboratory of Intelligent Technology and Systems ，Department of Computer Science and Technology ，Tsinghua University ，Beijing 100084 ， China Corresponding author ，E-mail: xluo@ ustb． edu． cn ABSTRACT The echo state network ( ESN) is a novel kind of recurrent neural network and has recently become a hot topic for its easy and distinctive training method along with high performance． In ESN ，the reservoir computing method is introduced ，which is a completely n