正线性函数在深度神经网络中的研究.pdfVIP

2015年 3月 计算机工程与设计 Mar．2015 第 36卷 第 3期 COMPUTER ENGINEERING AND DESIGN V0L36 No．3 正线性函数在深度神经网络中的研究 冯 畅 (四川大学计算机学院，四川 成都 610065) 摘 要：针对深度神经网络 中常用的激活函数具有非线性和计算复杂度高的特点，提 出使用正线性函数代替常用非线性函 数作为深度神经网络的激活函数。基于正线性激活函数建立的深度神经网络模型计算复杂度低，能得到稀疏表示，与人类 大脑信息感知具有一致性。通过图像分类任务验证了正线性激活函数在深度神经网络中应用的有效性。 关键词 ：特征提取；深度神经网络；激活函数；正线性函数；手写体数字iY,~J1 中图法分类号：TP183 文献标识号：A 文章编号：1000—7024(2015)03—0759—04 doi：10．16208／j．issnl000—7024．2015．03．039 R