深度稀疏整流神网络研究.pdfVIP

深度稀疏整流神经网络

泽维尔·格洛罗特安托万·博尔德约书亚·本吉奥

蒙特利尔大学DIRO，法国贡比涅技术大学Heudiasyc实DIRO，蒙特´利尔大学，蒙特´利尔，

魁北克省蒙特利尔市

´e

´e

´e

验室（UMR

CNRS

6599

UTC）及蒙魁北克省，

glorotxa@iro.umontreal.ca特利尔大学DIRO，魁北bengioy@iro.umontreal.ca

克省蒙特利尔市

`egne

´e

´e

´e

antoine.bordes@hds.utc.fr

因为前者的目标是获得计算高效的、能良好泛化到新

样本的学习器，而后者的目标是从学数据中抽

尽管逻辑Sigmoid神经元比双曲正切神经元